İngiltere’den Grok’a soruşturma: Kişisel veri ve ahlaksız içerik üretimi mercek altında

İngiltere Bilgi Komiserliği Ofisi (ICO), ABD'li milyarder Elon Musk'ın yapay zekâ destekli sohbet robotu Grok hakkında, kişisel verilerin işlenmesi, zararlı ahlaksız içerikli görüntüler ve video içerikleri üretme potansiyeli nedeniyle soruşturma başlattı.

Soruşturma, X Internet Unlimited Company (XIUC) ve X.AI yapay zekâ şirketini kapsıyor.

İngiltere'de veri koruma düzenleyicisi olarak bilinen Bilgi Komiserliği Ofisi (ICO) tarafından yapılan açıklamada, X Internet Unlimited Company (XIUC) ve X.AI LLC (X.AI) şirketleri hakkında yapay zekâ destekli sohbet robotu Grok'un kişisel verilerin işlenmesi ve bu sistemin zararlı ahlaksız içerikli görüntü ile video içeriği üretme potansiyeline yönelik resmi soruşturma başlatıldığı belirtildi.

Açıklamada,"Bu adımı, Grok'un çocuklar da dâhil olmak üzere bireylerin rızası olmadan cinsel içerikli görüntüler oluşturmak için kullanıldığına dair raporların ardından attık. Bu tür içeriklerin oluşturulması ve dolaşıma sokulması, İngiltere veri koruma yasası kapsamında ciddi endişeler doğurmakta ve kamuoyuna önemli ölçüde zarar verme riski taşımaktadır. Bu endişeler, kişisel verilerin yasalara uygun, adil ve şeffaf bir şekilde işlenip işlenmediği ve kişisel veriler kullanılarak zararlı, manipüle edilmiş görüntülerin oluşturulmasını önlemek için Grok'un tasarımına ve dağıtımına uygun güvenlik önlemlerinin alınıp alınmadığına yöneliktir. Bu koruma önlemlerinin başarısız olduğu durumlarda bireyler, kişisel verileri üzerindeki kontrolünü kaybeder ve bu durum onları ciddi zararlara maruz bırakır. Bu riskleri incelemek, ICO'nun insanların haklarını koruma ve kuruluşları yapay zekâ teknolojisini tasarlarken ve uygularken sorumlu tutma rolünün merkezinde yer almaktadır" denildi.

Bilgi Komiserliği Ofisi Düzenleyici Risk ve İnovasyondan Sorumlu Genel Müdür William Malcolm açıklamasında, "Grok hakkındaki raporlar, insanların kişisel verilerinin bilgileri veya rızaları olmadan nasıl mahrem veya cinsel içerikli görüntüler oluşturmak için kullanıldığı ve bunu önlemek için gerekli güvenlik önlemlerinin alınıp alınmadığı konusunda son derece rahatsız edici soruları gündeme getiriyor. Kişisel verilerin bu şekilde kontrolünün kaybedilmesi, özellikle çocuklar söz konusu olduğunda anında ve önemli zararlara yol açabilir. Soruşturma, XIUC ve X.AI'nin Grok hizmetlerinin geliştirilmesi ve kullanıma sunulmasında veri koruma yasalarına uyup uymadığını, özellikle de kişilerin veri haklarını korumak için alınan önlemleri değerlendirecektir. Yükümlülüklerin yerine getirilmediğini tespit ettiğimiz durumlarda kamuoyunu korumak için gerekli önlemleri alacağız" açıklamasını yaptı. (İLKHA)