Tak perlu menjadi penggemar AI untuk mengakui bahwa dalam beberapa hal AI bisa menjadi alat yang berguna dalam pencarian pengetahuan baru. Kalau pengetahuan baru tersebut ternyata berupa resep senjata biologis, saya rasa sebagian besar orang setuju bahwa itu akan sangat buruk (sucks).
CEO OpenAI, Sam Altman, dan CEO Anthropic, Dario Amodei, jarang sepakat, tetapi mereka sepakat bahwa itu buruk, dan mereka pun menandatangani surat terbuka yang menyatakan hal tersebut. Surat itu sendiri menyebut momen ini sebagai “kesepakatan langka di antara para pemangku kepentingan yang seringkali berseberangan.”
Penanda tangan lain termasuk Demis Hassabis dan Alexandr Wang, yang masing-masing memimpin divisi AI di Google Deepmind dan Meta, bersama dengan pebisnis dan peneliti AI lainnya, serta puluhan ilmuwan dan pakar kebijakan.
Inti utama surat ini sebenarnya bukan tentang AI; melainkan ditujukan kepada pembuat kebijakan, dan hanya meminta agar undang-undang diberlakukan yang mewajibkan pihak yang memiliki kemampuan mengontrol asam nukleat sintetis untuk melakukannya. Secara spesifik, surat ini meminta agar saat permintaan DNA (dan mungkin RNA, meski tidak disebut) masuk, permintaan tersebut diperiksa untuk “sekuens yang mengkhawatirkan,” dan “legitimasi pelanggan” diperiksa sebelum asam nukleat sintetis tersebut dikirimkan. Selain itu, data tentang pesanan juga diminta untuk dicatat dan dapat diakses oleh penyelidik, dengan klaim, “Kesadaran akan ketertelusuran (traceability) sendiri menghalangi penyalahgunaan.”
Perkembangan AI yang pesat semakin menambah urgensi. Surat tersebut menyatakan bahwa karena AI berkembang begitu cepat, “ada kemungkinan nyata bahwa hambatan pengetahuan yang selama ini mencegah aktor jahat mendapatkan senjata biologis akan terkikis secara signifikan.”
Wired mencatat bahwa surat ini diorganisir oleh dua lembaga pemikir: *Institute for Progress*, yang digambarkan sebagai nonpartisan, dan *Foundation for American Innovation*, atau terlihat condong ke kanan/right leaning.
Sementara OpenAI, dalam beberapa waktu terakhir, telah mengambil langkah yang tampak bertujuan mengaitkan perusahaan dan pemimpinnya dengan sikap tanggung jawab. Mereka merilis kertas kebijakan pada hari Selasa, yang menguraikan rencana penyaringan model AI di tingkat federal yang lebih ketat daripada rencana dalam sebuah perintah presiden baru-baru ini dari Presiden Trump. Pada hari Rabu, Altman juga bertemu dengan Bernie Sanders, kritikus AI paling keras di Senat Amerika Serikat saat in.