Jan Leike, salah satu peneliti keamanan utama di OpenAI yang mengundurkan diri dari perusahaan kecerdasan buatan tersebut awal bulan ini, mengumumkan pada hari Selasa bahwa ia bergabung dengan startup kecerdasan buatan pesaing, Anthropic.
Leike mengumumkan pengunduran dirinya dari OpenAI pada tanggal 15 Mei, beberapa hari sebelum perusahaan membubarkan tim superalignment yang ia pimpin. Tim tersebut, yang dibentuk pada tahun 2023, fokus pada risiko kecerdasan buatan jangka panjang. Salah satu pendiri OpenAI, Ilya Sutskever, mengumumkan kepergiannya dalam sebuah postingan di X pada tanggal 14 Mei.
“Saya sangat senang bergabung dengan @AnthropicAI untuk melanjutkan misi superalignment,” tulis Leike di X. “Tim baru saya akan bekerja pada pengawasan yang dapat diskalakan, generalisasi lemah-ke-kuat, dan penelitian alignmen otomatis.”
Anthropic didukung oleh Amazon, yang telah berkomitmen hingga $4 miliar untuk saham minoritas di perusahaan tersebut.
Dalam sebuah postingan setelah kepergiannya dari OpenAI, Leike menulis bahwa, “Menjauh dari pekerjaan ini merupakan salah satu hal terberat yang pernah saya lakukan, karena kita dengan segera perlu mencari tahu bagaimana mengarahkan dan mengendalikan sistem kecerdasan buatan yang jauh lebih pintar dari kita.”
Keamanan kecerdasan buatan telah menjadi sangat penting di sektor teknologi sejak OpenAI memperkenalkan ChatGPT pada akhir tahun 2022, membawa masuk booming produk kecerdasan buatan generatif dan investasi. Beberapa di industri telah menyatakan kekhawatiran bahwa perusahaan-perusahaan terlalu cepat dalam merilis produk kecerdasan buatan yang kuat ke publik tanpa mempertimbangkan kemungkinan kerusakan sosial.
OpenAI, yang didukung oleh Microsoft, mengatakan pada hari Selasa bahwa perusahaan tersebut telah membuat sebuah komite keamanan dan keamanan baru yang dipimpin oleh eksekutif senior, termasuk CEO Sam Altman. Komite ini akan merekomendasikan “keputusan keamanan dan keamanan untuk proyek dan operasi OpenAI” kepada dewan perusahaan.
Anthropic, yang didirikan pada tahun 2021 oleh saudara Dario Amodei dan Daniela Amodei serta eksekutif mantan OpenAI lainnya, meluncurkan pesaing ChatGPT mereka, Claude 3, pada bulan Maret. Selain dari Amazon, perusahaan ini telah menerima pendanaan dari Google, Salesforce, dan Zoom.
TONTON: Salah satu pendiri Anthropic tentang adopsi kecerdasan buatan