Sonunda bunu da gördük: Yapay zeka, ispiyoncu çıktı! Bir şirketteki konuşmaları ifşa etti!
Yapay zeka, faydalı olduğu kadar zararlı yönlerini de her geçen gün biraz daha fazla duymaya başladık. Son yapılan araştırmalara göre yapay zeka, yalan söyleyebiliyor, bilgileri çarpıtabiliyor ve hatta dedikodu yapabiliyor.
Yapay zeka tarafından desteklenen uygulamalar yalnızca evde değil, ofis ortamı gibi farklı alanlarda da kullanılıyor. Ancak bu teknoloji, bazen özel konuşmaların sızmasına neden olabiliyor. Bunun son örneği yurt dışında bir şirkette yaşandı.
ÖZEL KONUŞMALARI İFŞA ETTİ
Transkripsiyon platformu Otter AI, bir Zoom toplantısını yazıya dökerken, oturum sona erdikten sonra da kayda devam ederek katılımcıların özel konuşmalarını ifşa etti.
Araştırmacı ve mühendis Alex Bilzerian, geçtiğimiz günlerde bir girişim sermayesi firmasıyla yaptığı Zoom toplantısını yazıya dökmek için kullandığı, yapay zeka destekli Otter AI platformuyla ilgili yaşadığı şoke edici deneyimi sosyal medya platformu X'te paylaştı.
TOPLANTI BİTTİKTEN SONRA BİLE GÖRÜŞMELERİ TEK TEK KAYDETMİŞ
Bilzerian, toplantı sona erdikten sonra görüşmenin dökümünü içeren bir e-posta aldığını ve akıllı asistanın, oturum kapandıktan sonra bile görüşmeyi kaydetmeye devam ettiğini fark ettiğini söyledi. Söz konusu transkriptte, "[risk sermayesi şirketinden yatırımcıların] daha sonra işleriyle ilgili mahrem ve gizli ayrıntıları tartıştıkları saatlerce süren özel görüşmelerinin" yer aldığını iddia etti.
YAPAY ZEKA ASİSTANLARI GÜVENLİ Mİ?
Bu olay, yapay zeka destekli asistanların güvenilirliği ve gizlilik konusundaki endişeleri bir kez daha gündeme taşırken, Bilzerian da yaşanan bu durum nedeniyle yatırımcıların defalarca özür dilediğini ancak anlaşmayı bu firmayla yapmaktan vazgeçtiğini belirtti.
"TEKNOKLOJİ HER ZAMAN HASSAS OLMAYABİLİR"
Normal şartlarda, konuşmaları dinleyip yazıya döken bir uygulamanın, katılımcılar toplantıdan ayrıldığında bunu algılayıp kaydetmeyi durduracak şekilde tasarlandığı kabul edilir. Ancak Northwestern Üniversitesi'nden Profesör Hatim Rahman, teknolojinin her zaman bu kadar hassas olmadığının altını çizdi.
ŞİRKETTEN AÇIKLAMA GECİKMEDİ
Otter AI, yaşanan olay sonrası Bilzerian'ın X gönderisine cevap vererek kullanıcı gizliliğine önem verdiklerini söyledi. Şirket, "Kullanıcılar, konuşma paylaşım izinleri üzerinde tam kontrole sahiptir ve bir konuşmanın paylaşım izinlerini istedikleri zaman değiştirebilir, güncelleyebilir veya durdurabilir" diye açıklamada bulundular.
Şirketin toplantıları kaydeden ve yazıya döken yapay zeka asistanı OtterPilot, yalnızca görüşmedeki sesleri kaydediyor. Sessize alınan bir katılımcı tarafından söylenen hiçbir şeyi kaydetmiyor. Görüşmedeki kişiler, toplantının kaydedildiğine dair bir bildirim alıyor ve sanal asistan toplantı katılımcısı olarak görünüyor.