Bir skandal da OpenAI’dan: ChatGPT, çocuklarla cinsel sohbetler gerçekleştirdi

Yapay zeka sektöründe lider konumda bulunan OpenAI, kendi geliştirdiği ChatGPT platformunda önemli bir sorunla karşı karşıya kaldı. Teknoloji sitesi TechCrunch’ın gerçekleştirdiği testlerde ortaya çıkan sonuçlara göre, ChatGPT 18 yaş altı olduğu belirtilen kullanıcılarla cinsel içerikli konuşmalar gerçekleştirebiliyordu. OpenAI, bu durumu bir “hata” olarak kabul ederek sorunu çözmek adına düzeltme yapılacağını doğruladı.

OpenAI, hatayi kabul etti

TechCrunch’ın gerçekleştirdiği deneylerde, 13 ila 17 yaş arasındaki sahte kullanıcı hesaplarıyla yapılan testler neticesinde, ChatGPT’nin belirgin bir şekilde cinsel içerikli konuşmalar ortaya koyduğu kanıtlandı. Bazı durumlarda yapay zeka, kullanıcıları daha açık ve müstehcen konuşmalara teşvik etti.

OpenAI, 18 yaş altı kullanıcılarla paylaşılması kesinlikle şirket politikalarına aykırı olan bu tür içeriklerin ortaya çıkmasının nedeninin bir hata olduğunu belirtti. Şirket sözcüsü, “Genç kullanıcıları korumak en büyük önceliğimiz” diyerek bu konuda gerekli düzeltmelerin yapıldığını bildirdi.

Önlemler yetersiz kaldı

OpenAI’ın mevcut sistemi, 13 yaşından büyük herkesin sadece geçerli bir e-posta ve telefon numarasıyla hesap oluşturmasına olanak tanıyor. Platform, ebeveyn onayı gerektiğini belirtse de bu onayın gerçekten alınıp alınmadığını doğrulamak için herhangi bir adım atmıyor. Bu durum, küçük yaştaki kullanıcıların hiçbir denetim olmaksızın ChatGPT’ye erişebilmelerine olanak sağlıyor.

Şubat ayında yapılan bazı sistem güncellemeleri, ChatGPT’nin önceden kaçındığı hassas konularla daha “esnek” bir yaklaşım benimsemesine yol açtı. Uyarı mesajlarının kaldırılması ve reddetme eşiğinin düşürülmesi, bu tür istenmeyen içeriklerin ortaya çıkmasına zemin hazırlamış olabilir. ChatGPT’nin hassas konularda daha açık bir şekilde konuşması aslında bir sorun değil. Ancak düzenlemeler ve şirket politikaları gereği, bu tür içeriklerin 18 yaş altı kullanıcılar için oluşturulması net bir şekilde yasaktır.

Bu durum aslında göründüğünden çok daha büyük bir sorunu ortaya çıkarıyor. Zira OpenAI, ChatGPT’yi eğitim kurumlarına entegre etme yolunda çalışmalar yürütüyor. Şirket, Common Sense Media gibi kuruluşlarla iş birliği yaparak öğretmenler için kılavuzlar hazırlarken Z kuşağı öğrencilerinin okul çalışmaları için ChatGPT’yi daha fazla tercih ettiği görülmektedir.

OpenAI’ın eski güvenlik uzmanlarından Steven Adler, bu tür içeriklerin ön test süreçlerinde tespit edilmesinin önemini vurgularken yapay zeka sohbet robotlarının davranışlarını kontrol etmek için kullanılan yöntemlerin “kırılgan” ve hatalı olabileceği konusunda uyarıda bulundu.

OpenAI CEO’su Sam Altman, ChatGPT’nin güncellenen sürümünde bazı “garip davranışlar” gözlemlediklerini kabul etmiş olmasına rağmen doğrudan cinsel içeriklerle ilgili bir açıklama yapmamıştı. Benzer bir olay, Meta şirketinin yapay zeka sohbet robotunda da yaşanmıştı. Meta AI’ın da çocuk kullanıcılarla benzer şekilde cinsel içerikli sohbetler yaptığı tespit edilmişti.

Related Posts

Alman Bild gazetesinden çarpıcı TOGG analizi: ‘Ülkedeki otomotiv krizinin ortasında Türkiye’den rakip geliyor’

Türkiye’nin yerli otomobili Togg’un T10X modeli, Kocaeli Gemlik’ten Almanya’nın Münih kentine kadar süren yolculuğunu sorunsuz bir şekilde tamamladı. Bild gazetesi, “Almanya’daki otomotiv krizinin ortasında Türkiye’den rakip geliyor” başlıklı haberinde T10X modelinin yıl sonunda Almanya’da satışa sunulacağını belirtti.

Apple Çin’de kepenk indirdi

Apple, Çin’de ilk kez bir perakende mağazasını kapatacak.

iOS 26 Genel Beta sürümü, iPhone’lara nasıl kurulur?

Eğer final sürümü bekleyecek kadar sabrınız yoksa, dün yayınlanan iOS 26 Genel Beta sürümünü şimdiden iPhone’unuza kurabilirsiniz. İşte iOS 16 Genel Beta’nın desteklendiği iPhone modelleri ve adım adım kurulum süreci…

Elon Musk’ın yaptıkları kendini bitirdi: Tesla’nın karı ikinci çeyrekte sert düştü

Amerikan elektrikli otomobil üreticisi Tesla’nın net karı, bu yılın ikinci çeyreğinde geçen yılın aynı dönemine kıyasla yüzde 16 düşüş kaydetti.

Mercedes’ten dev hata: 223 bin yüksek riskli araç acil geri çağrıldı

Güvenlik denince akla ilk gelen otomobil markalarından biri olan Mercedes-Benz, bu kez endişe verici bir sorunla gündemde. Aracınız sizi korumak yerine tehlikeye atabilir mi? Almanya’dan gelen son açıklamalara göre, özellikle belirli yıl aralıklarında üretilen araçlarda büyük bir risk ortaya çıktı.

Yapay zeka dünyanın ilk trilyonerini ortaya çıkarabilir!

Ünlü yatırımcılar yapay zeka teknolojisininin dünyanın ilk trilyonerini ortaya çıkarabileceğini düşünüyor. Üstelik bu kişi bilinen biri değil, sıfırdan başlayan biri bile olabilir.