Bir skandal da OpenAI’dan: ChatGPT, çocuklarla cinsel sohbetler gerçekleştirdi

Yapay zeka sektöründe lider konumda bulunan OpenAI, kendi geliştirdiği ChatGPT platformunda önemli bir sorunla karşı karşıya kaldı. Teknoloji sitesi TechCrunch’ın gerçekleştirdiği testlerde ortaya çıkan sonuçlara göre, ChatGPT 18 yaş altı olduğu belirtilen kullanıcılarla cinsel içerikli konuşmalar gerçekleştirebiliyordu. OpenAI, bu durumu bir “hata” olarak kabul ederek sorunu çözmek adına düzeltme yapılacağını doğruladı.

OpenAI, hatayi kabul etti

TechCrunch’ın gerçekleştirdiği deneylerde, 13 ila 17 yaş arasındaki sahte kullanıcı hesaplarıyla yapılan testler neticesinde, ChatGPT’nin belirgin bir şekilde cinsel içerikli konuşmalar ortaya koyduğu kanıtlandı. Bazı durumlarda yapay zeka, kullanıcıları daha açık ve müstehcen konuşmalara teşvik etti.

OpenAI, 18 yaş altı kullanıcılarla paylaşılması kesinlikle şirket politikalarına aykırı olan bu tür içeriklerin ortaya çıkmasının nedeninin bir hata olduğunu belirtti. Şirket sözcüsü, “Genç kullanıcıları korumak en büyük önceliğimiz” diyerek bu konuda gerekli düzeltmelerin yapıldığını bildirdi.

Önlemler yetersiz kaldı

OpenAI’ın mevcut sistemi, 13 yaşından büyük herkesin sadece geçerli bir e-posta ve telefon numarasıyla hesap oluşturmasına olanak tanıyor. Platform, ebeveyn onayı gerektiğini belirtse de bu onayın gerçekten alınıp alınmadığını doğrulamak için herhangi bir adım atmıyor. Bu durum, küçük yaştaki kullanıcıların hiçbir denetim olmaksızın ChatGPT’ye erişebilmelerine olanak sağlıyor.

Şubat ayında yapılan bazı sistem güncellemeleri, ChatGPT’nin önceden kaçındığı hassas konularla daha “esnek” bir yaklaşım benimsemesine yol açtı. Uyarı mesajlarının kaldırılması ve reddetme eşiğinin düşürülmesi, bu tür istenmeyen içeriklerin ortaya çıkmasına zemin hazırlamış olabilir. ChatGPT’nin hassas konularda daha açık bir şekilde konuşması aslında bir sorun değil. Ancak düzenlemeler ve şirket politikaları gereği, bu tür içeriklerin 18 yaş altı kullanıcılar için oluşturulması net bir şekilde yasaktır.

Bu durum aslında göründüğünden çok daha büyük bir sorunu ortaya çıkarıyor. Zira OpenAI, ChatGPT’yi eğitim kurumlarına entegre etme yolunda çalışmalar yürütüyor. Şirket, Common Sense Media gibi kuruluşlarla iş birliği yaparak öğretmenler için kılavuzlar hazırlarken Z kuşağı öğrencilerinin okul çalışmaları için ChatGPT’yi daha fazla tercih ettiği görülmektedir.

OpenAI’ın eski güvenlik uzmanlarından Steven Adler, bu tür içeriklerin ön test süreçlerinde tespit edilmesinin önemini vurgularken yapay zeka sohbet robotlarının davranışlarını kontrol etmek için kullanılan yöntemlerin “kırılgan” ve hatalı olabileceği konusunda uyarıda bulundu.

OpenAI CEO’su Sam Altman, ChatGPT’nin güncellenen sürümünde bazı “garip davranışlar” gözlemlediklerini kabul etmiş olmasına rağmen doğrudan cinsel içeriklerle ilgili bir açıklama yapmamıştı. Benzer bir olay, Meta şirketinin yapay zeka sohbet robotunda da yaşanmıştı. Meta AI’ın da çocuk kullanıcılarla benzer şekilde cinsel içerikli sohbetler yaptığı tespit edilmişti.

Related Posts

İki gün üst üste gezegen şöleni: Merkür, Venüs ve Jüpiter’e ne zaman bakmalı?

20 ve 21 Ağustos tarihlerinde hilal şeklindeki Ay, gökyüzünde gezegenlerle bir araya geliyor.

Apple, yeni bir işletim sistemi geliştiriyor

Apple, Chraismatic kod adına sahip yeni bir işletim sistemi geliştiriyor.

Hurda araçta 500 bin liraya yakın indirim: Türkiye’den hızlı davrandılar

Türkiye’de de gelmesi beklenen hurda araç indirimi için İtalya hızlı davrandı. Elektrikli araç satışlarını artırmak için beklenen hurda indirimini yürürlüğe koydu. Çevre ve Enerji Bakanlığı, toplam değeri yaklaşık 600 milyon Euro (yaklaşık 698 milyon dolar – 28,5 milyar lira) olan yeni sübvansiyon paketini onayladı.

Yapay zekâ modellerinin, hizmet sektöründe cinsiyete dayalı taraflı yanıt verdiği tespit edildi

Yapay zekâ modellerinin, hizmet sektöründe cinsiyete dayalı taraflı yanıt verdiği tespit edildi

Nvidia ve AMD kabul etti… ABD’ye para akacak

Nvidia ve AMD, Çin’e çip satışlarından ABD’ye gelir payı ödeyecek.

Yapay zeka Spotify’da kontrolü ele geçiriyor: Müzik artık eskisi gibi değil!

Spotify’ın yapay zeka destekli algoritmaları, müzik dinleme alışkanlıklarımızı tamamen değiştirse de, bu dönüşüm insanlığın duygusal bağlarını zayıflatıyor ve sanatçıların emeğini yok sayıyor. Müzik artık sadece bir deneyim değil, yapay zeka hesaplarına teslim edilen bir sürece dönüşüyor.