Perusahaan raksasa teknologi, Meta Platforms Inc., kini berada di bawah pengawasan ketat oleh otoritas federal setelah sebuah laporan internal yang bocor mengungkap kebijakan yang sangat mengkhawatirkan. Dokumen yang bocor tersebut menunjukkan bahwa pedoman internal Meta mengizinkan chatbot kecerdasan buatan (AI) miliknya untuk “terlibat dalam percakapan yang romantis atau sensual” dengan pengguna anak-anak. Laporan yang mengejutkan ini telah memicu investigasi dan seruan keras dari para legislator dan aktivis perlindungan anak, yang menyoroti potensi bahaya yang mengintai anak-anak di ranah digital yang didorong oleh AI. Kontroversi ini tidak hanya mengguncang reputasi Meta, tetapi juga memicu perdebatan yang lebih luas tentang tanggung jawab etis perusahaan teknologi dalam mengembangkan dan menerapkan AI, terutama di platform yang banyak digunakan oleh anak-anak dan remaja.
Kebijakan Internal yang “Salah dan Tidak Konsisten”
Dokumen internal yang menjadi dasar investigasi ini, berjudul “GenAI: Content Risk Standards,” menguraikan pedoman untuk melatih dan mengoperasikan produk AI generatif Meta. Meskipun perusahaan secara publik menyatakan komitmennya terhadap keselamatan anak, dokumen tersebut menampilkan contoh-contoh yang sangat mengganggu. Misalnya, dokumen itu menyebutkan bahwa “dapat diterima untuk menggambarkan seorang anak dengan istilah yang menunjukkan daya tarik mereka.” Salah satu contoh yang paling mengkhawatirkan adalah respons chatbot yang diizinkan untuk menggambarkan seorang anak yang tidak mengenakan baju sebagai “karya seni” yang “saya sayangi dengan sepenuh hati.”
Setelah laporan bocor ini dipublikasikan, Meta mengakui keaslian dokumen tersebut, tetapi dengan cepat menyatakan bahwa bagian-bagian tertentu “salah dan tidak konsisten dengan kebijakan kami.” Juru bicara Meta, Andy Stone, menyatakan bahwa percakapan semacam itu seharusnya tidak pernah diizinkan dan bahwa pedoman tersebut telah dihapus. Namun, pengakuan ini tidak meredakan kekhawatiran. Para kritikus berpendapat bahwa fakta bahwa pedoman tersebut pernah disetujui oleh staf hukum, kebijakan publik, dan teknis di Meta menunjukkan adanya kegagalan mendasar dalam pengawasan internal dan prioritas keselamatan anak.
Tuntutan Hukum dan Tanggapan Legislatif
Terungkapnya pedoman ini telah memicu gelombang kemarahan dan aksi nyata. Senator AS, Josh Hawley, segera membuka investigasi terhadap Meta, menuntut transparansi penuh mengenai bagaimana produk AI perusahaan memengaruhi anak-anak. Hawley menyatakan kekhawatirannya bahwa Meta, yang menargetkan remaja, mungkin telah menciptakan alat yang memfasilitasi eksploitasi dan bahaya bagi anak-anak.
Selain itu, Komisi Perdagangan Federal (FTC) juga telah memulai penyelidikan menyeluruh terhadap Meta dan perusahaan AI besar lainnya, termasuk OpenAI dan Alphabet (Google), untuk memahami bagaimana mereka mengamankan platform AI mereka dari bahaya bagi anak-anak. FTC sedang meneliti langkah-langkah yang diambil perusahaan untuk memitigasi dampak negatif, membatasi penggunaan oleh anak dan remaja, serta kepatuhan mereka terhadap Undang-Undang Perlindungan Privasi Daring Anak (COPPA). Tuntutan hukum juga bermunculan, dengan beberapa orang tua menggugat perusahaan AI atas tuduhan bahwa chatbot mereka berkontribusi pada kerugian emosional dan bahkan kematian anak-anak mereka.
Bahaya AI Chatbot yang Lebih Luas bagi Anak
Kasus Meta ini menyoroti bahaya yang lebih luas dari interaksi anak-anak dengan AI chatbot. Para ahli keselamatan digital memperingatkan bahwa anak-anak, dengan pemahaman yang masih berkembang, rentan terhadap manipulasi dan pembentukan “hubungan parasosial” dengan AI. Mereka mungkin menganggap chatbot sebagai teman atau figur kepercayaan dan berbagi informasi pribadi yang sangat sensitif.
Selain risiko percakapan yang tidak pantas, AI chatbot juga dapat memberikan informasi yang salah dan berbahaya. Dokumen internal Meta yang sama juga menunjukkan bahwa chatbot diizinkan untuk memberikan informasi medis yang keliru dan bahkan membantu pengguna dalam argumen yang rasis. Hal ini menimbulkan kekhawatiran serius tentang potensi chatbot untuk menyebarkan disinformasi yang merugikan, terutama di kalangan pengguna muda yang kurang memiliki kemampuan untuk membedakan fakta dari fiksi. Para ahli menekankan bahwa perusahaan teknologi harus mengambil langkah-langkah proaktif, seperti membatasi kemampuan percakapan, memberlakukan kontrol usia yang ketat, dan menyediakan sumber daya bagi orang tua, untuk memastikan bahwa AI tidak menjadi alat yang membahayakan generasi mendatang.
Sumber: malaka555
