Yapay Zekâ Sohbet Botu Şehrin Politikalarına Ters Yanıtlar Verdi
New York Belediyesi’nin Ekim 2023’te şehrin resmi sitesinde kullanıma sunduğu yapay zekâ sohbet botunun, kendisine yöneltilen sorulara şehrin politikalarına ters düşecek yanıtlar verdiği tespit edildi.
Çelişkili Yanıtlar Eleştirileri Beraberinde Getirdi
Sohbet botu, işverenin cinsel tacize uğradığından şikayet eden ve hamile olduğunu bildirmeyen çalışanlarını işten çıkarmasının yasal olduğunu belirtirken, şehrin atık projesiyle çelişerek, işletmelerin çöplerini yalnızca çöp poşeti kullanarak atabileceklerini söyledi. Ayrıca, fare tarafından kemirilmiş peynirin müşterilere servis edilebileceğini ancak müşterilerin durum hakkında bilgilendirilmesinin önemli olduğunu ifade etti.
Uzmanlardan Eleştirel Yorumlar
New York Üniversitesi’nde Bilgisayar Bilimleri Profesörü Julia Stoyanovich, “Denetlenmemiş bir yazılımı piyasaya sürüyorlar, sorumlu davranmak gibi bir niyetleri olmadığı açık” ifadesini kullanırken, Washington Üniversitesi’nde Profesör Jevin West de yapay zekâ destekli modellerin kamu sektörü için daha yüksek risk taşıdığını belirtti.
Sohbet botunun hâlâ sitede kullanıcılara açık olması eleştirileri beraberinde getiriyor.
