DeepTrust: Yapay Zeka Ne Kadar Güvenilir?

Yapay zeka her geçen gün hayatımıza daha çok giriyor. Tüm bu gelişmelerin beraberinde gelen birçok soru da var. Her ne kadar yapay zeka inanılmaz şeyler yapabiliyor olsa da, iş insana özgü duyguları tam anlamıyla öğretmeye gelince bazı boşluklar oluşabiliyor.

Gün geçtikçe AI çok farklı alanlarda çok farklı işlevlerde kendini göstermeye başladı: Sağlık, ulaşım, iletişim… Bazı bilim insanları, özellikle bu alanlarda tüm yetkiyi bir yapay zekaya bırakmanın henüz mümkün olmadığını söylüyor. İşin içine bir de etik konusu girince yapay zeka henüz insanların güvenini tam anlamıyla kazanabilmiş değil. Örnek vermek gerekirse 2018 yılında Tesla’nın bir aracı oto-pilot durumundayken kaza yapmış ve sürücünün hayatını kaybetmesine neden olmuştu. Şirketten gelen açıklamaya göre sürücü suçlu bulunmuş ve “Sürücü uyarıları dikkate almadı, bu kazanın önüne geçebilirdi.” denmişti. Her ne kadar o an neler olduğu bir muamma olsa da bu tarz haberler insanı korkutmuyor değil.

Ayrıca, bu tarz yapay zekaya sahip araçlar, oto-pilot durumunda bağımsız karar vericiler olarak rol oynarlar ve o an karşılarına çıkacak olan bir nesne, insan olduğunda bunu çok hızlı bir şekilde algılamaları ve ona göre yine çok hızlı bir şekilde bir karar vermeleri gerekir. Örneğin karşıdan bir araba süratle geliyor ve araç sağa kırmak zorunda. Fakat tam da o an sağda bir nesne belki de bir çocuk bulunmakta. Araç karşıdan gelen araca mı çarpmalı yoksa çocuğa mı? O an bu durumları algılayıp çok hızlı bir şekilde tepki verebilecek mi? Ne yapacak? Tüm bu sorular çok önemli çünkü her bir soru çözümün başlangıç anahtarı oluyor. Ve her bir anahtar daha fazla gelişimi beraberinde getiriyor.

Peki yapay zekanın güvenilir olup olmadığını nasıl anlarız? Bu soruya cevap bulmak için bir grup araştırmacı aylarca “DeepTrust” adını verdikleri bir proje üzerine çalıştılar. Çalışmanın akademik makalesinde DeepTrust’ın ne olduğu şu şekilde açıklanmış:

“…Bir AI algoritmasının olasılıklı bir mantık tanımını oluşturan ve hem veri kümesinin hem de iç algoritmik çalışmaların güvenilirliğini hesaba katan Öznel Mantık’tan (Subjective Logic) esinlenen bir çerçeve.” (Mingxi Cheng, Shahin Nazarian ve Paul Bogdan, 2020)

İçinde bolca matematik, özellikle olasılık, olan bir öznel mantık hesaplaması denilebilir. Burada öznel mantığın ne olduğundan biraz bahsedecek olursak, öznel mantık (Subjective Logic) bir tür olasılık mantığıdır. Genelde belirsizlik ve güvenilmezlik konusundaki durumları analiz etmek ve modellemek için kullanılır. Bu mantığın altında çokça işlem ve olasılık hesabı bulunmakta. Farklı bileşenlerden gelen değerlere göre bir işlem yaparak bu sonuca ulaşıyor. Bu konu üzerine Audun Jøsang tarafından yazılmış ve bu konunun matematiğini detaylı bir şekilde anlattığı “Subjective Logic: A formalism for reasoning under uncertainty” kitabının pdf haline referanslar kısmından ulaşabilirsiniz.

DeepTrust’ın işi, bir yapay zeka algoritmasına öğretilen milyonlarca veriyi ve onun hangi verilerle bağlantı içinde olduğunu tek tek kontrol etmek değil, bu verilerin oluşturduğu yapı hakkında bir öngörü sağlamak. Yapay Sinir Ağları’nı (Artificial Neural Network) düşündüğümüz zaman oradaki tüm verileri okumaya çalıştığınızı ve hepsinin birer birer doğruluğunu belirlemeye çalıştığınızı düşünün. Bu iş oldukça zaman alırdı değil mi? Burada asıl önemli olarak tanımlanan şey, bu sinir ağlarının mimarisinin genel olarak yüksek bir doğruluğa sahip olup olmadığını kontrol etmek. DeepTrust ile yapılmaya çalışılan olay da bu.

Çoğunlukla öznel mantık üzerine kurulmuş DeepTrust, bir algoritmanın ne kadar güvenilir olduğunu olasılık hesabıyla bulabiliyor demiştik. Örneğin 2016’da Amerika Birleşik Devletleri Başkanlık seçiminde Clinton’ın kazanacağını belirten bir sonucun yanlış olduğunu tespit edebildi. Ve o seçim sonucunda, bildiğimiz gibi gerçekten de Clinton kazanamamıştı.

Bu ve bunun gibi örneklerden çıkan sonuç bize gösteriyor ki kesinlik ve güvenilirlik her zaman aynı şey değil. Kesin sonuçlar her zaman güvenilirlik filtresinden geçemeyebiliyor.

Güven duygusu her ne kadar içsel bir güdü olsa da bunun matematiksel olarak da hesaplanabildiğini görmek ve yapay zekanın güvenilirliğini ölçebilmek heyecan verici bir olay! Araştırmacılarına ve geliştiricilerine göre AI alanındaki ilk güven ölçme analizini yapan çalışma DeepTrust. Bogdan’a (2020) göre amaçları yapay zekayı daha bilinçli yapmak böylece üstünde daha çok uyarlama yapabilmek.

Yapay zekanın geliştirilmesi üzerine onlarca çalışma yapılırken bu çalışmaları da kontrol eden başka çalışmaların yapılması, aktifliğin ne kadar inanılmaz boyutlarda olduğunu gösteriyor bize.

IBM’in de dediği gibi: “Yapay zeka artık gelecek değil…”

Referanslar:

https://www.frontiersin.org/articles/10.3389/frai.2020.00054/full

https://books.google.com.tr/books?id=nqRlDQAAQBAJ&printsec=frontcover&redir_esc=y#v=onepage&q&f=false

https://en.wikipedia.org/wiki/Subjective_logic#:~:text=Subjective%20logic%20is%20a%20type,uncertainty%20and%20relatively%20unreliable%20sources.

https://www.sciencedaily.com/releases/2020/08/200827105937.htm

https://www.bbc.com/turkce/haberler-dunya-43605411

Leave a Reply

Your email address will not be published. Required fields are marked *