Sign In

 

 

Yapay Zekânın Önyargılarını IBM Ortaya ÇıkaracakYapay Zekânın Önyargılarını IBM Ortaya Çıkaracak5202018-09-26T07:51:00Z 26.9.2018 07:51:00Bilge Adam<div class="ExternalClass168DA53A71BD4A4A8322260F5ADCB4CD"><p>Dünyanın en büyük bilişim teknolojisi şirketi <b>IBM</b>, algoritmaların verdiği kararların nasıl ve neden verildiğini anlık olarak analiz edebilecek bir araç geliştirdi.</p><p> <b>Google</b>'ın fotoğraf algoritmasının <b>Afrika </b>kökenli Amerikalıları <b> <i>"goril"</i></b> olarak tanımlaması gibi örnekler, yakın gelecekte hayatın her alanında kullanılma ihtimali bulunan bu algoritmaların ne kadar önyargılı olduğunu tartışmaya açmıştı.</p><p> <strong>BBC</strong>'den <strong>Zoe Kleinman</strong>'ın haberine göre; <strong>Fairness 360</strong> (Adalet 360) adı verilen araç, yapay zekânın önyargılara sahip olup olmadığının belirtilerini tarayarak gerekli düzenlemeler konusunda önerilerde bulunacak.</p><p>Teknoloji devleri ve diğer şirketler tarafından kullanılan algoritmaların karar verme sürecinde her zaman adil olmadığına dair endişeler son dönemde artıyor. Örneğin bazı yüz tanıma algoritmalarının beyaz yüzleri tanırken siyah yüzleri tanıyamadığı ortaya çıkmıştı.</p><p>Bu algoritmalar artık emniyet, sigorta veya internet içerikleri gibi pek çok alanda kullanıldığı için olası bir önyargının geniş etkileri olabilir. Algoritmalar genellikle <strong> <em>"kara kutu"</em></strong> mantığına göre işliyor, yani çalışma sürecinde algoritma sahipleri hangi kararın nasıl ve neden verildiğini göremiyor.</p><p>IBM'in bulut temelli yazılımı açık kaynaklı ve algoritma geliştirmek için yaygın olarak kullanılan platformlarla uyumlu olacak. Tüketiciler bir arayüz üzerinden algoritmaların nasıl karar verdiğini ve kararı verirken hangi faktörleri değerlendirdiğini görebilecek. Algoritmanın hata oranı, performansı ve adilliği de incelenebilecek.</p><p>IBM'in Bilişsel Çözümler Birimi Başkan Yardımcısı <strong>David Kenny</strong>, <em>"Yapay zekâ kullanan ve hatalı bir kararın yaratacağı risklerle karşı karşıya olan şirketlere şeffaflık ve kontrol sağlıyoruz"</em> diyor.</p><p> <img src="/blog/PublishingImages/Lists/Posts/AllPosts/ibm-fairness-360-1.jpg" alt="ibm-fairness-360-1.jpg" style="margin:5px;width:575px;height:431px;" /> <br> </p><p> <strong>Google'ın Aracı Gerçek Zamanlı Değil</strong></p><p>Diğer teknoloji şirketleri de aynı soruna benzer çözümler getirmek için çalışmalar yürütüyor. Google geçen hafta duyurduğu bir araçla kullanıcıların makine öğrenimi modellerinin nasıl çalıştığını görmesine olanak sağlamıştı.</p><p>Fakat Google'ın geliştirdiği araç gerçek zamanlı değil. Bu araç verileri zaman içinde değerlendirerek genel bir tablo sunuyor. Makine öğrenimi ve algoritmalarda önyargı, yapay zekâ topluluğunun son dönemdeki önemli gündem maddelerinden birini oluşturuyor. <strong>Microsoft </strong>ve <strong>Facebook </strong>da benzer önyargı tespit araçlar geliştirdiklerini açıklamışlardı.</p><p>Problemin bir kısmı, algoritmaların öğrenmesi için sunulan verilerin yeterli çeşitliliğe sahip olmamasından kaynaklanıyor. Bilgisayarının yalnızca beyaz bir maske taktığında yüzünü tanıyabildiğini fark eden <strong>Massachusetts Institute of Technology </strong>öğrencisi <strong>Joy Buolamwini</strong>, 2016'da <strong>Algoritmik Adalet Birliği</strong> (AJL) adlı bir örgüt kurmuştu. Google, 2015 yılında fotoğraf algoritmasının Afrika kökenli Amerikalıları "goril" olarak tanımlamasının ardından, <strong> <em>"dehşete kapıldıklarını ve içten bir şekilde özür dilediklerini"</em></strong> söylemişti.</p><p>2017'de de <strong>Liberty </strong>adlı insan hakları örgütü <strong>İngiltere</strong>'de polislerin, suça karışanların cezaevinde tutulup tutulmayacağına dair artan bir oranda algoritma kullanmaya başladığını, bu algoritmanın da sadece insanların yaşı, cinsiyeti ve adresini temel aldığı konusunda bir uyarı yayınlamıştı.</p><p> <strong>"Batı'da Endüstriyi Çeşitlendirmeliyiz"</strong></p><p> <strong>Dünya Ekonomik Forumu</strong>'ndan <strong>Kay Firt-Butterfield</strong>, yapay zeka ve etik üzerine tartışmaların yoğunlaşmakta olduğunu söylüyor: <em>"Bir hukukçu olarak, algoritmaların yanlış kararlarını ortaya çıkarma yöntemleri hakkında yapılan tartışmaları gerçekten ilgi çekici buluyorum."</em></p><p> <em>"Önyargıdan bahsederken ilk endişelendiğimiz konu bu algoritmaları yaratanların çoğunun genç beyaz insanlar, genelde de erkekler olması. Bu yüzden Batı'da endüstriyi daha çeşitli hale getirmemiz gerekiyor."</em></p><p><em>Haber: <a href="https://www.bbc.com/turkce/haberler-turkiye-45577690" target="_blank" style="text-decoration:underline;"><span class="ms-rteForeColor-8" style="text-decoration:underline;">Zoe Kleinman​</span></a></em><br><em> Kaynak: BBC Türkçe</em></p></div>yapay-zekanin-onyargilarini-ibm-ortaya-cikaracakhttp://www.bilgeadam.com/blog/Lists/Photos/PostImages/ibm-fairness-360.jpgDünyanın en büyük bilişim teknolojisi şirketi IBM, algoritmaların verdiği kararların nasıl ve neden verildiğini anlık olarak analiz edebilecek bir araç geliştirdi.greenYazılım

Yazara Soru Sor




SORU GÖNDER