Yapay zeka bir tehdit olabilir mi?
AYKIRI AKADEMİ - TEKNOLOJİ - HABER
Facebook'un insanlarla sohbet edip yardımcı olması için geliştirdiği iki yapay zeka botu kendi aralarında anlaşılmayan bir dille konuşmaya başlayınca, mühendisler botları kapatmak zorunda kaldı.
Yapay Zeka teknolojisi sayesinde hayatın her alanında dönüşümler yaşanmaya başladı. Şurası kesin ki, yapay zekayı yaratmak insanlık tarihinin en önemli olaylarından biri olarak tarihe geçecek.
Ancak teknolojik gelişmeler devam ederken; bir yandan da yapay zekaya yönelik korkuların pek de yersiz olmadığını gösteren senaryolar yaşanmaya başladı.
Facebook Yapay Zeka Araştırma(FAIR) bölümü’nün insanlarla sohbet edip yardımcı olması için geliştirdiği iki yapay zeka botu (Alice ve Bob) kendi aralarında anlaşılmayan bir dille konuşmaya başlayınca, Facebook mühendisleri botları kapatmak zorunda kaldı.
Botlar kendi aralarında daha efektif bir iletişim yöntemi buldular
Kaynaklara göre, birbiriyle İngilizce konuşabilmek üzere programlanan yapay zeka botları bir süre sonra insanlara anlamsız gelen cümleler kurmaya başladı;:
“I can can I I everything else”
“Balls have zero to me to me to me to me to me to me to me to me to”
Botlar arasında gönderilmeye başlanan bu anlamsız mesajlar insanlar tarafından anlaşılmıyordu. Ama Facebook mühendisleri, bu yazışmaları botların gayet iyi anlayabildiğini fark ettiler.
Bilgisayar sistemlerinin (yapay zeka botlarının) kendi aralarında kullandıkları dili çözmek ve anlamak imkansız değil. Asıl problem, kullanılan dili kontrol altına alabilmek. Peki bu mümkün mü?
Elon Musk: Mark Zuckerberg’ün yapay zeka konusundaki algısı kıt
Facebook CEO’su Mark Zuckerberg, yapay zekanın önemli savunucularından ve geliştiricilerinden. Geçtiğimiz günlerde yine yapay zeka alanında çok önemli çalışmaları bulunan ve bu durumdan bir o kadar da korkan Elon Musk ile fikir ayrılığı da yaşamışlardı.
Elon Musk, geçtiğimiz günlerde yapay zeka teknolojisinin insanlık tarihi boyunca karşılaşılan en büyük risk olduğuna dair bir açıklama yapmış ve yapay zekanın oluşturabileceği tehlikeleri karşı uyarılarda bulunmuştu. Bu açıklamanın ardından bir canlı yayında soruları yanıtlayan Mark Zuckerberg, Elon Musk’ın yapay zeka ile ilgili açıklamalarını sorumsuzca bulduğunu dile getirmiş, yapay zekayla ilgili ortaya atılan kıyamet senaryolarını ve olumsuz düşüncelerin kaynağını anlayamadığını belirtmişti.
Takipçilerinden birinin, twitterda Mark Zuckerberg’ün açıklamalarının bulunduğu bir haberi Elon Musk’ı etiketleyerek paylaşmasının ardından Musk oldukça sert bir cevap vermiş, Zuckerberg’ün konuyla ilgili olan anlayışının yetersiz olduğunu yazmıştı.
Bu tartışmanın ardından yaşan bu gelişme karşısında Elon Musk’ın yorumu merak ediliyor elbette. Ancak temel meseleyi gözden kaçırmamak gerekiyor. Yapay zeka bir tehdit olabilir mi?
"Yapay zeka kendi iradesini geliştirebilir"
Geçtiğimiz yıl Cambridge Üniversitesi'nin yeni 'Yapay Zeka Araştırma Merkezi'nin açılışında konuşan ünlü fizikçi Stephen Hawking, bilgisayarların insan zekasını taklit edebileceğini ve hatta insan zekasının önüne geçebileceğini söylemişti.
“Yapay zeka yaratmak medeniyet tarihinin en büyük olayı olarak kayıtlara geçebilir. Ancak risklerin önüne nasıl geçeceğimizi öğrenmezsek medeniyet tarihinin son olayı da olabilir. Yapay zeka faydanın yanı sıra tehlikeleri de beraberinde getirecek. Güçlü otonom silahlar ya da bir grubun, sayıca kendilerinden daha çok olan bir kitleyi tahakküm altına alabileceği yeni yollar gibi...Yapay zeka kendi iradesini geliştirebilir. Bizimkiyle çatışma içinde olan bir irade."
Yapay zekanın yükselişi insanlığın başına gelen en iyi ya da en kötü şey olabilir. Hangisi olacağını şimdilik bilemiyoruz.
