Yapay zeka devi OpenAI, insanlardan ChatGPT ve diğer ürünlerine saldırmalarını isteyerek dikkat çekti. Firma 25 bin dolarlık ödül vaat ederek herkesi meydan okumaya davet etti.
OpenAI neden böyle bir çağrı yaptı?
Son dönemde popülerlik kazanan ChatGPT, DALL-E, Whisper gibi yapay zeka ürünlerinin geliştiricisi OpenAI, insanlardan bu programlara “hunharca saldırmalarını” istedi. Amacı, olası güvenlik açıklarını ve sistemlerin kötüye kullanılma olasılıklarını belirlemek.
Firma bunun için “Hazırlıklılık Takımı” adında bir ekip kurdu. Bu ekip yapay zeka sistemlerindeki gerçek ve varsayımsal riskleri azaltmayı hedefliyor. Riskleri azaltmanın bir yolu da yapay zekaya en kötü şekilde saldırarak zaaflarını bulmak.
25 bin dolarlık ödül vaadi
OpenAI yaptığı açıklamada, yapay zekanın insanlık için büyük fayda sağlayacağına inandığını belirtti. Ancak beraberinde getirdiği risklerin de farkında olduklarını söyledi.
Bu riskleri bertaraf etmek için “AI Preparedness Challenge” adlı bir meydan okuma başlattı. Buna göre, yapay zekayı en yıkıcı şekilde kötüye kullananlara 25 bin dolar ödül verilecek. Ayrıca çalışmalarını yayımlama ve şirkette iş fırsatı da sunulacak.
İsteyen herkes kötüye kullanmaya davet edildi
OpenAI, yapay zeka sistemlerini mümkün olan en kötü şekilde suistimal etmeye çalışanlara ödül vaat ediyor. Buna karşılık zaafları nasıl bulduklarını ve engellenme yöntemlerini anlatacaklar.
Kötü niyetli kişileri taklit ederek sistemlerin güvenlik açıklarını bulmayı amaçlayan meydan okuma ilginç görünüyor. Ancak OpenAI bu sayede olası tehditlerin önüne geçmeyi planlıyor.