SAN FRANCISCO (Reuters) – Alphabet (NASDAQ:GOOGL) Inc memperingatkan karyawan tentang cara mereka menggunakan chatbots, termasuk Bard-nya sendiri, pada saat yang sama memasarkan program tersebut di seluruh dunia, kata empat orang yang mengetahui masalah tersebut kepada Reuters.
Induk Google telah menyarankan karyawannya untuk tidak memasukkan materi rahasianya ke dalam AI chatbots, kata orang-orang tersebut dan dikonfirmasi oleh perusahaan, mengutip kebijakan lama tentang pengamanan informasi.
Chatbots, di antaranya Bard dan ChatGPT, adalah program yang terdengar seperti manusia yang menggunakan apa yang disebut kecerdasan buatan generatif untuk melakukan percakapan dengan pengguna dan menjawab banyak permintaan. Peninjau manusia dapat membaca obrolan, dan peneliti menemukan bahwa AI serupa dapat mereproduksi data yang diserapnya selama pelatihan, menciptakan risiko kebocoran.
Alphabet juga memperingatkan para insinyurnya untuk menghindari penggunaan langsung kode komputer yang dapat dihasilkan oleh chatbot, kata beberapa orang.
Dimintai komentar, perusahaan mengatakan Bard dapat membuat saran kode yang tidak diinginkan, tetapi tetap membantu pemrogram. Google juga mengatakan bertujuan untuk transparan tentang keterbatasan teknologinya.
Kekhawatiran tersebut menunjukkan bagaimana Google ingin menghindari kerugian bisnis dari perangkat lunak yang diluncurkannya untuk bersaing dengan ChatGPT. Yang dipertaruhkan dalam perlombaan Google melawan pendukung ChatGPT OpenAI dan Microsoft Corp (NASDAQ:MSFT) adalah investasi miliaran dolar dan pendapatan iklan dan cloud yang masih tak terhitung dari program AI baru.
Kehati-hatian Google juga mencerminkan apa yang menjadi standar keamanan bagi perusahaan, yaitu memperingatkan personel tentang penggunaan program obrolan yang tersedia untuk umum.
Semakin banyak bisnis di seluruh dunia telah memasang pagar pembatas pada chatbot AI, di antaranya Samsung (KS:005930), Amazon.com (NASDAQ:AMZN) dan Deutsche Bank (ETR:DBKGn), kata perusahaan tersebut kepada Reuters. Apple (NASDAQ:AAPL), yang tidak membalas permintaan komentar, dilaporkan juga melakukannya.
Beberapa profesional 43% menggunakan ChatGPT atau alat AI lainnya pada Januari, seringkali tanpa memberi tahu atasan mereka, menurut survei terhadap hampir 12.000 responden termasuk dari perusahaan top yang berbasis di AS, yang dilakukan oleh situs jaringan Fishbowl.
Pada bulan Februari, Google memberi tahu staf yang menguji Bard sebelum diluncurkan untuk tidak memberikan informasi internal, Insider melaporkan. Sekarang Google meluncurkan Bard ke lebih dari 180 negara dan dalam 40 bahasa sebagai batu loncatan untuk kreativitas, dan peringatannya mencakup saran kodenya.
Google mengatakan kepada Reuters bahwa mereka telah melakukan percakapan mendetail dengan Komisi Perlindungan Data Irlandia dan menjawab pertanyaan regulator, setelah laporan Politico pada hari Selasa bahwa perusahaan tersebut menunda peluncuran Bard di UE minggu ini sambil menunggu informasi lebih lanjut tentang dampak chatbot pada privasi.
KHAWATIR TENTANG INFORMASI SENSITIF
Teknologi semacam itu dapat menyusun email, dokumen, bahkan perangkat lunak itu sendiri, menjanjikan untuk mempercepat tugas secara signifikan. Namun, yang termasuk dalam konten ini dapat berupa informasi yang salah, data sensitif, atau bahkan bagian hak cipta dari novel "Harry Potter".
Pemberitahuan privasi Google yang diperbarui pada 1 Juni juga menyatakan: "Jangan sertakan informasi rahasia atau sensitif dalam percakapan Bard Anda."
Beberapa perusahaan telah mengembangkan perangkat lunak untuk mengatasi masalah tersebut. Misalnya, Cloudflare (NYSE:NET), yang melindungi situs web dari serangan dunia maya dan menawarkan layanan cloud lainnya, memasarkan kemampuan bisnis untuk menandai dan membatasi beberapa data agar tidak mengalir secara eksternal.
Google dan Microsoft juga menawarkan alat percakapan kepada pelanggan bisnis yang akan datang dengan label harga yang lebih tinggi tetapi menahan diri dari menyerap data ke dalam model AI publik. Pengaturan default di Bard dan ChatGPT adalah untuk menyimpan riwayat percakapan pengguna, yang dapat dipilih pengguna untuk dihapus.
"Masuk akal" bahwa perusahaan tidak ingin staf mereka menggunakan chatbot publik untuk bekerja, kata Yusuf Mehdi, kepala pemasaran konsumen Microsoft.
“Perusahaan mengambil sudut pandang konservatif yang sepatutnya,” kata Mehdi, menjelaskan bagaimana chatbot Bing gratis Microsoft dibandingkan dengan perangkat lunak perusahaannya. “Di sana, kebijakan kami jauh lebih ketat.”
Microsoft menolak untuk mengomentari apakah ada larangan menyeluruh pada staf memasukkan informasi rahasia ke dalam program AI publik, termasuk miliknya sendiri, meskipun seorang eksekutif yang berbeda di sana mengatakan kepada Reuters bahwa dia secara pribadi membatasi penggunaannya.
Matthew Prince, CEO Cloudflare, mengatakan bahwa mengetikkan hal-hal rahasia ke dalam chatbot seperti "menghilangkan banyak mahasiswa PhD di semua catatan pribadi Anda".
