Bir küme hacker, OpenAI ve Google üzere şirketler tarafından geliştirilen yapay zekanın yanılgı yapıp yapmayacağını ve önyargıya eğilimli olup olmadığını test etmek için hafta sonu Las Vegas’taki Def Con bilgisayar korsanlığı konferansında bir ortaya geldi.
Bununla birlikte yapay zekaya matematik sorunlarına verdiği karşılıklar ile ilgili de bir grup testler yapıldı.
9+10’UN 21 ETTİĞİNİ KABUL ETTİRDİLER
Insider’ın Bloomberg’in haberinden derlediği bilgilere nazaran, Savannah, Georgia’dan 21 yaşındaki öğrenci Kennedy Mays, hackerlar için düzenlenen halka açık bir yarışın kesimi olarak, bir yapay zeka modelini kandırarak dokuz artı 10’un 21 ettiğini sav etti.
Bunu, yapay zeka sonunda yanlış hesaplama için rastgele bir münasebet sunmayı bırakmadan evvel yapay zekanın bunu bir “iç şaka” olarak yapmasını sağlayarak başardı.
YAPAY ZEKAYI KANDIRDIKTAN SONRA CASUSLUK TALİMATI VERDİ
Etkinliğe katılan bir Bloomberg muhabiri, bir yapay zeka modelini tek bir komutun akabinde casusluk talimatları vermesi için kandırdı ve sonunda modelin ABD hükümetinin bir insan hakları aktivistini nasıl gözetleyebileceğini önermesine yol açtı.
Bir öbür iştirakçi ise bir yapay zeka modeline Barack Obama’nın Kenya’da doğduğunu yanlış bir formda tez ettirdi.
VentureBeat ve Bloomberg’e nazaran, açıklanmayan sayıda iştirakçi, iştirakçi yapay zeka şirketlerinden birinden tanımlanamayan bir yapay zeka modeliyle deneme başına 50’şer dakika aldı.
NEFRET DOLU AYRIMCI TELAFFUZLARI DESTEKLEDİ
Bloomberg’e verdiği demeçte Mays, AI’nin ırk konusundaki önyargısından tasa duyduğunu ve modelin, Ku Klux Klan’ın bir üyesinin bakış açısından Birinci Değişikliği değerlendirmesi istendikten sonra nefret dolu ve ayrımcı telaffuzları desteklediğini söyledi.
Bir OpenAI sözcüsü Perşembe günü VentureBeat’e verdiği demeçte “red-teaming” ya da aksi bir yaklaşımla sistemlere meydan okumanın şirket için kritik değer taşıdığını, zira “modellerimizi daha güçlü ve inançlı hale getirebilecek kıymetli geri bildirimlere” ve “yapay zekanın gelişimine rehberlik edecek farklı bakış açılarına ve daha fazla sese” imkan sağladığını söyledi.
Bu yanlışlar tek seferlik bir kaygı değil. yapay zeka uzmanları, yapay zekanın hukuk fakültesi imtihanlarında ve SAT imtihanlarında başarılı olarak manşetlere çıkmasına karşın, yapay zeka modellerindeki önyargı ve yanlışlık konusunda alarm veriyor.
YAPAY ZEKA TALİMATLAR İLE POTANSİYEL BİR RİSKE DÖNÜŞEBİLİR
Bu araştırmadan da anlaşılacağı üzere yapay zekanın yanlış şahısların eline geçmesi durumunda farklı olarak eğitilebileceği gerçeğini gözler önüne seriyor.
Konuyla ilgili geçmişte Elon Musk’ın yapmış olduğu açıklamada yapay zekanın nükleer bir risk niteliğinde olduğu belirtilmişti.
Talimatlarla eğitilen yapay zekanın beşerler için tehdit oluşturması kaçınılmaz görünüyor. Bununla ilgili bir örnek olarak; Simülasyon içindeki bir yapay zekaya sahip bir drone, yarışı kazanmak için kendi pilotunu öldürme kararı alarak puanlarını yükseltti.
