Divisi kecerdasan buatan Google DeepMind sedang mempertimbangkan untuk merilis produknya guna menyaingi ChatGPT tahun ini. Kabar tersebut diumumkan oleh salah satu pendiri Demis Hassabis.
Chatbot Sparrow DeepMind dilaporkan memiliki fitur yang tidak dimiliki ChatGPT OpenAI, termasuk kemampuan mengutip sumber melalui reinforcement learning. Meski begitu, Hassabis memperingatkan tentang potensi bahaya teknologi AI yang kian canggih.
Sparrow bisa saja dirilis sebagai beta pribadi pada tahun 2023. Namun, dia menyebut ketika AI berada di puncaknya, itu bisa menyebabkan kerusakan signifikan pada umat manusia.
“Dalam hal teknologi yang sangat kuat, AI akan menjadi salah satu yang paling kuat yang pernah ada. Kita harus berhati-hati. Tidak semua orang memikirkan itu,”
Tahun lalu, ChatGPT rilis dan mendapat banyak pujian lantaran kemajuan teknologi AI miliknya. Sejumlah pihak mengklaim ChatGPT bisa menggantikan mesin pencari Google. Sayangnya, perilisan ChatGPT juga mendapat kontra dari banyak pihak.
Kemampuannya dalam memahami dan menghasilkan tanggapan seperti manusia terhadap berbagai pertanyaan menimbulkan kekhawatiran bahwa itu bisa disalahgunakan.
DeepMind telah mencapai beberapa tonggak penting AI sejak didirikan pada tahun 2010, termasuk mengalahkan juara dunia manusia di permainan papan kompleks Go dan memprediksi lebih dari 200 juta struktur dari semua protein yang dikenal. Perusahaan yang berbasis di London pertama kali mengungkapkan pihaknya sedang mengerjakan chatbot large language model (LLM) di sebuah makalah September lalu.
Dalam postingan blog yang dirilis, DeepMind menjelaskan Sparrow dapat digunakan untuk melatih chatbot lain agar lebih aman dan bermanfaat. Salah satu contoh yang diberikan adalah kemampuan Sparrow untuk menemukan pertanyaan yang berpotensi berbahaya dari pengguna.
“Agen dialog yang didukung oleh LLM dapat mengungkapkan informasi yang tidak akurat atau dibuat-buat, menggunakan bahasa yang diskriminatif, atau mendorong perilaku yang tidak aman. Sparrow memajukan pemahaman kami tentang bagaimana kami dapat melatih agen dan pada akhirnya untuk membantu membangun kecerdasan umum buatan (AGI) yang lebih aman dan berguna.”
