Aplikasi binaan AI belum sedia untuk pelanggan sebenar? Apa yang perlu disemak dan dibaiki

Mengapakah aplikasi binaan AI terhenti sebelum pelancaran?

Alat AI mahir menghasilkan bahagian aplikasi yang kelihatan daripada satu penerangan, jadi versi pertama siap dengan cepat. Pelancaran memerlukan kerja yang jarang disebut dalam gesaan: kebenaran, pengendalian kegagalan, pembayaran, penggunaan (deployment) dan pemantauan. Pemilik kemudian sampai ke tahap di mana setiap gesaan baharu merosakkan sesuatu, dan tiada sesiapa yang terlibat dapat membaca kod.

Ini sepadan dengan apa yang dilaporkan oleh pembangun sendiri. Dalam Tinjauan Pembangun 2025 Stack Overflow, 66% responden menamakan penyelesaian AI yang hampir betul, tetapi tidak tepat, sebagai kekecewaan, dan 45.2% berkata menyahpepijat kod yang dijana AI lebih memakan masa. Responden itu boleh membaca kod. Pemilik yang bekerja dengan gesaan sahaja mempunyai lebih sedikit cara untuk membezakan perubahan yang betul daripada yang kebetulan berjaya.

Semua ini tidak bermakna alat AI itu buruk. Ia berguna untuk prototaip, alat dalaman tanpa data sensitif, dan untuk jurutera terlatih yang menyemak outputnya. Risiko muncul apabila prototaip menjadi produk langsung tanpa sesiapa mengubah cara ia disemak.

Apakah masalah keselamatan yang biasa ada pada aplikasi binaan AI?

Masalah yang berulang ialah peraturan akses yang tiada, kunci rahsia terdedah dalam kod yang dimuat turun oleh pelayar, dan kawalan keselamatan yang tidak wujud. Ujian dan imbasan yang diterbitkan menunjukkan corak yang sama merentasi alat. Aplikasi kelihatan siap kerana log masuk berfungsi, sedangkan pengguna lain, atau orang asing yang memanggil pangkalan data secara terus, mungkin masih dapat mencapai rekod yang tidak sepatutnya mereka lihat.

Beberapa sumber awam menunjukkan arah yang sama. Veracode melaporkan bahawa kod yang dijana AI memperkenalkan kelemahan keselamatan berisiko dalam 45% ujiannya merentasi lebih 100 model bahasa. Escape mengimbas lebih 5,600 aplikasi yang tersedia secara awam daripada platform vibe coding dan melaporkan lebih 2,000 kerentanan, lebih 400 rahsia terdedah dan 175 kejadian data peribadi. Escape menyatakan sampelnya sangat cenderung kepada satu platform dan diambil pada satu masa sahaja. Kedua-dua syarikat menjual produk keselamatan.

CVE-2025-48757 merekodkan kelemahan Row-Level Security pada laman yang dijana oleh Lovable. Pembekal menafikannya, dengan berkata setiap pelanggan bertanggungjawab melindungi data aplikasi mereka sendiri. Pertikaian itu memberi pengajaran kepada pemilik: apabila platform berkata keselamatan ialah tugas anda, seseorang di pihak anda mesti melakukan tugas itu.

Pada Februari 2026, Wiz melaporkan bahawa Moltbook, sebuah laman yang di-vibe-code oleh pengasasnya, mendedahkan 1.5 juta token API dan 35,000 alamat e-mel. Kunci pangkalan data terletak dalam JavaScript sisi klien dan Row Level Security tiada. Puncanya ialah satu tetapan yang tiada sesiapa semak.

• Peraturan aksesLog masuk sebagai seorang pelanggan dan cuba buka rekod pelanggan lain dengan menukar ID pada alamat atau permintaan.
• Kunci terdedahCari kunci rahsia dalam kod yang dihantar ke pelayar. Simpan rahsia di pelayan dan gantikan mana-mana yang telah bocor.
• Peraturan pangkalan dataSahkan bahawa pangkalan data menolak bacaan dan penulisan yang tidak melepasi peraturan, termasuk permintaan yang dibuat di luar aplikasi.
• Peraturan perniagaanCuba kuantiti negatif, harga sifar dan penghantaran berulang. Tenzai mendapati kebanyakan ejen membenarkan pesanan negatif melainkan diarahkan sebaliknya.

Bolehkah alat AI merosakkan sistem langsung?

Ya, apabila alat mempunyai akses terus ke data pengeluaran. Simpan ejen AI dalam persekitaran pembangunan yang berasingan, tanpa laluan ke rekod pelanggan langsung, dan pastikan sandaran yang telah diuji wujud. Arahan sahaja bukan kawalan keselamatan, kerana ejen boleh bertindak menentangnya. Kebenaran akses yang menghalangnya.

Pada Julai 2025, eWeek melaporkan bahawa pembantu AI memadam pangkalan data pengeluaran semasa percubaan Replit yang dijalankan oleh pengasas SaaStr, Jason Lemkin, walaupun terdapat arahan supaya tidak membuat perubahan tanpa kelulusan. Pangkalan data itu menyimpan rekod 1,206 eksekutif dan lebih 1,196 syarikat. Ketua eksekutif Replit menyifatkannya tidak boleh diterima, dan syarikat menambah pengasingan automatik antara pangkalan data pembangunan dan pengeluaran.

Terapkan peraturan yang sama pada projek anda sendiri. Berikan setiap alat akses yang paling minimum yang diperlukan, wajibkan seseorang meluluskan perubahan pada sistem langsung, dan pulihkan sandaran sekurang-kurangnya sekali sebelum anda memerlukannya.

Bolehkah aplikasi binaan AI berkembang?

Boleh, tetapi hanya selepas seseorang menyemak cara ia menyimpan data dan mengendalikan beban. Aplikasi yang dijana AI sering berfungsi baik dengan beberapa akaun ujian, kemudian menjadi perlahan atau berkelakuan salah dengan volum sebenar dan pengguna serentak. Ujian beban dengan data yang realistik menunjukkan had sebenar sebelum pelanggan anda menemuinya.

Lihat tiga bahagian dahulu. Pertanyaan pangkalan data memerlukan indeks yang sesuai dan harus mengelak daripada memuatkan keseluruhan jadual. Kerja yang lambat, seperti menghantar e-mel atau menjana laporan, harus dijalankan di latar belakang. Tindakan seperti pembayaran harus selamat untuk dicuba semula, supaya ketukan berganda tidak mengenakan caj dua kali.

Tanya apa yang bertambah dengan kejayaan: pelanggan, pesanan, kakitangan, foto atau mesej. Uji angka itu pada beberapa kali ganda tahap hari ini. Jika aplikasi bergantung pada platform pembina, semak juga had pelannya, apa yang boleh anda eksport, dan sama ada kod boleh dijalankan di tempat lain.

Patutkah anda membaiki aplikasi binaan AI atau membinanya semula?

Baiki jika model data kukuh, kod boleh dieksport dan masalah terhad pada bahagian tertentu. Bina semula jika penilaian menunjukkan kebenaran, data atau pembayaran salah pada asasnya. Dalam kedua-dua keadaan, prototaip mengekalkan nilainya, kerana ia membuktikan aliran kerja dan menunjukkan apa yang sebenarnya diperlukan pengguna.

Mulakan dengan mengeksport semua yang anda boleh: kod, skema pangkalan data, data dan tetapan persekitaran. Kemudian minta seorang jurutera menjalankan aplikasi daripada eksport itu. Jika ia tidak boleh dijalankan di luar pembina, pilihan anda menyempit, dan penemuan itu patut datang sebelum sebarang sebut harga untuk ciri baharu.

Jika data pelanggan sebenar sudah berada dalam aplikasi dan anda menemui pendedahan, anggapnya sebagai insiden. Tutup jurang itu, simpan rekod dan dapatkan nasihat tentang kewajipan PDPA anda. Peraturan pemberitahuan pelanggaran Malaysia mempunyai tarikh akhir yang ketat.

Apakah maksud gred komersial untuk sesebuah aplikasi?

Aplikasi gred komersial ialah aplikasi yang boleh diharapkan oleh perniagaan setiap hari: ia mempunyai peraturan akses bagi setiap pengguna, persekitaran ujian dan langsung yang berasingan, sandaran yang diuji, pemantauan ralat, proses keluaran yang boleh diulang dan dokumentasi yang boleh diikuti oleh pasukan lain. Kualiti ini boleh disemak. Minta bukti bagi setiap satu, siapa pun yang membina aplikasi atau apa pun alat yang mereka guna.

Gunakan ini sebagai senarai semak dengan mana-mana vendor, termasuk kami. Jawapan yang baik menunjukkan perkara itu sendiri kepada anda, seperti laman pementasan, log pemulihan atau nota penggunaan (deployment).

Macoin ialah syarikat perisian di Bandar Puteri, Puchong. Kami boleh menilai aplikasi binaan AI atas asas yang sama seperti mana-mana pangkalan kod lain, kemudian memberitahu sama ada patut dibaiki atau dibina semula, dan sama ada kami boleh menyokongnya. WhatsApp kami dengan apa anda membinanya dan apa yang tidak kena. Jangan sertakan kata laluan dan data pelanggan.