Para ilmuwan kecerdasan buatan (AI) semakin menemukan cara untuk meretas keamanan program AI generatif, seperti ChatGPT, sehingga hanya masalah waktu sebelum seseorang menerapkan teknik keamanan cyber yang sama untuk memverifikasi pengguna ke sumber data.
Pada hari Rabu, startup IndyKite dari San Francisco memperkenalkan upayanya untuk memverifikasi apa yang masuk ke Gen AI sebagai inti dari prediksinya.
Software ini “membantu untuk memastikan keandalan data yang digunakan dalam model bisnis atau analitik, dengan menggunakan pendekatan berbasis identitas terhadap data di mana kepercayaan sangat penting,” kata IndyKite.
Jika detail tentang sistem IndyKite sampai saat ini masih terbatas, mudah untuk melihat bagaimana seseorang dapat memperluas akses ke data konsumen melalui identitas ke akses ke sumber data untuk Gen AI.
Generative AI seperti ChatGPT dari OpenAI telah menjadi pusat kontroversi karena cara program ini dilatih pada kumpulan data besar yang mengorbankan ratusan gigabyte data.
Kumpulan data tersebut menjadi subjek dari beberapa gugatan hukum oleh pihak termasuk The New York Times, yang menuduh pelanggaran hak cipta.
OpenAI telah mengatakan bahwa akan memberikan jaminan hukum kepada pengguna perusahaan dari perangkat lunaknya terhadap tuntutan hukum.
Selain masalah pelanggaran, pencipta Gen AI berurusan dengan pertanyaan dari mana jawaban yang berwewenang akan berasal.
Pendekatan yang dikenal sebagai “retrieval-augmented generation” berusaha menghubungkan model bahasa besar seperti GPT-4 dengan basis data sebagai orakel kebenaran.
Founder IndyKite, Lasse Andresen, adalah seorang pengusaha serial yang sebelumnya mendirikan ForgeRock, pesaing Okta dalam manajemen identitas.
Perangkat lunak IndyKite memanfaatkan perangkat lunak manajemen basis data graf Neo4j yang populer, yang membangun graf pengetahuan tentang hubungan yang ditemukan dalam sebuah perusahaan.
IndyKite telah menerima total $10,5 juta dalam pendanaan awal dari Molten Ventures, Alliance Ventures, dan SpeedInvest, menurut Crunchbase.