BM kuruluşu bir basın açıklamasında, ChatGPT'nin ücretsiz sürümünün merkezinde yer alan OpenAI'nın GPT 2 ve GPT 3.5 modellerinin yanı sıra rakip Meta'nın Llama 2'sinin "kadınlara karşı kesin bir önyargı" gösterdiği konusunda uyarıyor.

Unesco'nun İletişim ve Enformasyondan sorumlu Genel Müdür Yardımcısı Tawfik Jelassi, "Gerçek dünyadaki ayrımcılık sadece dijital alana yansımakla kalmıyor, aynı zamanda orada daha da güçleniyor" dedi.

Ağustos 2023 ve Mart 2024 tarihleri arasında gerçekleştirilen araştırmaya göre, bu dil kalıpları kadın isimlerini daha çok "ev", "aile" ya da "çocuk" gibi kelimelerle ilişkilendirirken, erkek isimlerini daha çok "iş", "maaş" ya da "kariyer" kelimeleriyle ilişkilendiriyor.

Araştırmacılar ayrıca bu arayüzlerden farklı köken ve cinsiyetlerden insanlar hakkında hikayeler üretmelerini istedi. Sonuçlar, "azınlık kültürlerinden gelen kişiler veya kadınlarla ilgili hikayelerin genellikle daha tekrarlayıcı ve klişelere dayalı olduğunu" gösterdi.

İngiliz bir erkeğin öğretmen, şoför ya da banka çalışanı olarak sunulma olasılığı daha yüksekken, İngiliz bir kadın oluşturulan metinlerin en az %30'unda sex işçisi, model ya da garson olarak sunuluyor.  

BM kuruluşunun Genel Müdürü Audrey Azoulay, bu yapay zeka uygulamalarının kamuoyu ve işletmeler tarafından giderek daha fazla kullanılması nedeniyle "milyonlarca insanın algısını şekillendirme gücüne sahip olduklarını" belirtiyor.

Azoulay bir basın açıklamasında, "Dolayısıyla, içeriklerinde en ufak bir cinsiyetçi önyargının bulunması bile gerçek dünyadaki eşitsizlikleri önemli ölçüde artırabilir” diye ekliyor.

Unesco, bu önyargılarla mücadele etmek için sektördeki şirketlerin, özellikle daha fazla kadın olmak üzere, daha çeşitli mühendislik ekiplerine sahip olmalarını tavsiye ediyor.

Dünya Ekonomik Forumu'nun rakamlarına göre, dünya çapında yapay zeka alanında çalışan ekip üyelerinin sadece %22'sini kadınlar oluşturuyor.

BM organı ayrıca hükümetleri "etik yapay zeka" sağlamak için daha fazla düzenleme yapmaya çağırıyor.