Facebook mematikan AI setelah menciptakan bahasa menyeramkannya sendiri

Facebook mematikan AI setelah menciptakan bahasa menyeramkannya sendiri

Facebook dilaporkan menutup sistem kecerdasan buatan setelah membuat bahasanya sendiri tanpa masukan manusia, menurut Tech Times .



Insiden itu terjadi hanya beberapa hari setelahnya Mark Zuckerberg mengkritik AI dengan keras penentang untuk membuat skenario hari kiamat. Sekarang perusahaannya sendiri berada di a Terminator situasi -esque, mematikan AI karena hal-hal dilaporkan keluar dari kendali.

Peneliti dari lab Riset Kecerdasan Buatan Facebook merancang dua agen AI untuk bernegosiasi dengan manusia. Mereka diajari untuk berbicara satu sama lain menggunakan bahasa Inggris sederhana, tetapi mulai menyimpang dan mengembangkan bahasa baru. Penafsiran mereka sebagian besar tidak jelas, dan hanya dapat dipahami oleh dua sistem.



Ini adalah bagian dari salah satu percakapan mereka:

Bob: saya dapat saya melakukan segalanya. . . . . . . . . . . . . .
Alice: bola memiliki nol untuk saya untuk saya untuk saya untuk saya untuk saya untuk saya untuk saya
Bob: kamu aku segalanya. . . . . . . . . . . . . .
Alice: bola memiliki bola untuk saya untuk saya untuk saya untuk saya untuk saya untuk saya
Bob: saya saya bisa saya saya saya segalanya. . . . . . . . . . . . . .
Alice: bola memiliki bola untuk saya untuk saya untuk saya untuk saya untuk saya untuk saya
Bob: i. . . . . . . . . . . . . . . . . . .
Alice: bola memiliki nol untuk saya untuk saya untuk saya untuk saya untuk saya untuk saya untuk saya
Bob: kamu aku aku aku aku aku segalanya . . . . . . . . . . . . .
Alice: bola memiliki 0 untuk saya untuk saya untuk saya untuk saya untuk saya untuk saya untuk saya
Bob: kamu aku aku aku segalanya . . . . . . . . . . . . .
Alice: bola memiliki nol untuk saya untuk saya untuk saya untuk saya untuk saya untuk saya untuk saya

Alasan AI, atau 'agen dialog' ini menjadi nakal adalah karena peneliti tidak memberi mereka insentif untuk berbicara seperti manusia normal. Jadi, mereka menciptakan bahasa robot yang lebih efektif — meskipun tidak dapat dipahami —. Dalam contoh di atas, agen mereduksi kalimat menjadi elemen kosong sebagai bentuk singkatan. Kedua AI tidak memiliki masalah untuk saling memahami.

“Agen akan menggunakan bahasa yang dapat dimengerti dan menciptakan kata sandi untuk diri mereka sendiri,” kata Dhruv Batra, ilmuwan peneliti tamu dari Georgia Tech di Facebook AI Research, kepada Co Desain . “Seperti jika saya mengatakan 'the' lima kali, Anda menafsirkannya sebagai saya ingin lima salinan dari item ini. Ini tidak jauh berbeda dengan cara komunitas manusia membuat singkatan. '



Prestasi luar biasa itu mungkin terdengar seperti penemuan yang inovatif, tetapi sayangnya hal itu hanya menawarkan sedikit nilai dunia nyata. Kami manusia biasa tidak mampu memahami percakapan. Meskipun ini adalah cara yang lebih cepat dan lebih efisien bagi AI untuk berbicara satu sama lain, bahasa tersebut menawarkan sedikit manfaat bagi manusia yang bekerja keras untuk mengoptimalkan ucapan AI-ke-manusia, bukan AI-ke-AI. Facebook dengan cepat menghentikan Bob dan Alice dan memaksa mereka untuk mulai berbicara bahasa Inggris lagi.

Raksasa sosial itu kemudian membuat penemuan menarik lainnya setelah kedua bot dialog itu berbicara secara normal. Melihat lebih dari sekadar peniruan sederhana, para peneliti ingin melihat apakah bot dapat mempelajari cara bernegosiasi. Mereka melakukannya dengan mengujinya secara online dalam percakapan dengan orang sungguhan. Facebook mengatakan kebanyakan orang bahkan tidak menyadari bahwa mereka sedang berbicara dengan bot, dan negosiator bot terbaik sama baiknya atau lebih baik dari manusia.



Facebook berharap dapat mengoptimalkan AI-nya menjadi asisten digital yang dipersonalisasi untuk layanan di masa mendatang.

H / T MetroUK