Snap, My AI’nin isteğe bağlı bir araç olduğunu ve Snapchat’in bunun bir sohbet robotu olduğunu açıkça belirttiğini ve kullanıcılara sınırlamaları konusunda tavsiyelerde bulunduğunu belirterek, kötü incelemeyi geri çevirdi ”
TechCrunch’ın kendi testlerinde muhabir Amanda Silberling, Snapchat’in My AI üretken AI özelliklerinin aktif olarak zararlı olmaktan çok genellikle daha garip ve rastgele olma eğiliminde olduğunu buldu, ancak Common Sense Media AI sohbet robotuna 2 yıldız verdi, bunun yaş ayrımcılığı, cinsiyetçilik ve kültürel stereotipler etrafındaki haksız önyargıları güçlendiren bazı tepkiler ürettiğini belirtti Ayrıca yanlış bilgi veya yapay zeka halüsinasyonları üretebilir ve stereotipleri güçlendirebilirler ebeveynler için medya derecelendirmeleri çocuklarının tükettiği uygulamaları, oyunları, podcast’leri, TV şovlarını, filmleri ve kitapları değerlendirmek isteyenler Şirket, TechCrunch’a yaptığı açıklamada, yapay zekamın aynı zamanda Aile Merkezine de entegre edildiğini, böylece ebeveynlerin gençlerin onunla sohbet edip etmediğini ve ne zaman sohbet ettiğini görebileceğini söyledi ancak şirketin, ürününü geliştirmeye devam ederken incelemenin sağladığı geri bildirimleri takdir ettiğini de ekledi Ayrıca zaman zaman bazı uygunsuz yanıtların yanı sıra yanlışlıklar da sunar
Kuruluş ilk olarak öğrenme için kullanılanlar, Bard ve ChatGPT gibi yapay zeka sohbet robotlarının yanı sıra Snap’in My AI ve DALL-E gibi üretken yapay zeka ürünleri de dahil olmak üzere 10 popüler uygulamayı 5 puanlık bir ölçekte inceledi Gibi siteler Sarılma Yüz ve Civitai, yalnızca yeni görüntü modelleri bulmak için kaynak olarak değil, aynı zamanda birinin (ünlü gibi) benzerliğini kullanarak porno yapmak için birbirleriyle birleştirilebilecek farklı modeller bulmayı da kolaylaştırarak popüler hale geldi Diğerlerine göre daha az tanınırlar (Ve bazı çocukların iddia edebileceği gibi daha az eğlencelidir)
Bu, Common Sense Media’nın bugünkü lansmanına yol açtı Yalnızca %40’ı bu kararları vermelerine yardımcı olacak güvenilir kaynaklar bildiğini söyledi Bugün, bu reytingler yayına girdisohbet robotları, görüntü oluşturucular ve daha fazlası gibi yapay zeka ürünleri için “beslenme etiketleri” adı verilen ürünler sunuyor
Common Sense Media, yeni AI ürünlerine ilişkin derecelendirmeleri ve incelemeleri sürekli olarak yayınlamaya devam edeceğini ve bunun yalnızca ebeveynleri ve aileleri değil aynı zamanda yasa yapıcıları ve düzenleyicileri de bilgilendirmeye yardımcı olacağını umduğunu söylüyor Bu konu bu hafta gündeme geldi 404Medya Civitai’nin yeteneklerine dikkat çekildi ancak sorumlu taraf (topluluk toplayıcıları veya yapay zeka modellerinin kendisi) konusundaki tartışma devam etti sonrasında Hacker News gibi sitelerde
Şirket ilk olarak Temmuz ayında, teknolojinin sorumlu yapay zeka uygulamalarından yararlanıp faydalanmadığı ve çocuklara uygunluğu da dahil olmak üzere, yapay zeka ürünlerini çeşitli boyutlarda değerlendirmek için bir derecelendirme sistemi oluşturmayı hedeflediğini duyurdu
genel-24
Popüler yapay zeka araçlarının bağımsız bir incelemesi, Snapchat’in My AI, DALLE ve Stable Diffusion dahil olmak üzere pek çoğunun çocuklar için güvenli olmayabileceğini ortaya çıkardı Ayrıca veri gizliliği politikaları konusunda da daha şeffaftılar ilk yapay zeka ürün derecelendirmeleri Değerlendirdiği ürünler genelindeki derecelendirmelerdir dedi
İyi değerlendirmeler alan tek yapay zeka ürünleri şunlardı: Ello’nun Yapay zeka okuma öğretmeni ve kitap dağıtım hizmeti, Hanmingo (Khan Academy’den) ve Kyron Learning’in Yapay zeka öğretmeni — üçü de eğitim amaçlı tasarlanmış yapay zeka ürünleridir
Diğer üretken AI modelleri gibi DALL-E Ve Kararlı Difüzyon diğer kaygıların yanı sıra kadınların ve kızların nesneleştirilmesi ve cinselleştirilmesi eğilimi ve toplumsal cinsiyet stereotiplerinin güçlendirilmesi gibi benzer risklere sahipti
Common Sense’in derecelendirmelerinin orta kademesinde Google’ınki gibi yapay zeka sohbet robotları vardı Ozan (daha dün resmi olarak gençlere açıldı), SohbetGPTVe Yürümeye Başlayan Yapay Zeka “Derecelendirmelerimizin daha fazla geliştiriciyi yanlış bilgilerin yayılmasını sınırlayan korumalar oluşturmaya ve gelecek nesilleri istenmeyen etkilerden korumak için üzerlerine düşeni yapmaya teşvik edeceğini umuyoruz Yine de şirketler bunları çocukların kullanımını göz önünde bulundurarak tasarladıkları için sorumlu yapay zeka uygulamalarını kullanma eğilimindeydiler ve adalete, çeşitli temsillere ve çocuk dostu tasarım hususlarına odaklandılar Common Sense, yapay zekanın ürettiği yanlış bilgilerin kullanıcıların dünya görüşlerini şekillendirebileceği ve gerçeği kurgudan ayırmayı daha da zorlaştırabileceği konusunda uyardı çeşitli yapay zeka ilkeleri, güven, çocukların güvenliği, mahremiyet, şeffaflık, hesap verebilirlik, öğrenme, adalet, sosyal bağlantılar ve insanlara ve topluma faydalar dahil “Ürünün ne olduğunu, nasıl çalıştığını, etik risklerini, sınırlamalarını ve yanlış kullanımlarını öğrenerek kanun yapıcılar, eğitimciler ve genel halk, sorumlu yapay zekanın neye benzediğini anlayabilir Şaşırtıcı olmayan bir şekilde, ikinci kategori en kötü performansı gösterdi Kuruluş, özellikle “farklı geçmişlere ve lehçelere” sahip kullanıcılar için bu botlarda da önyargı oluşabileceği konusunda uyardı Eğer hükümet yapay zekayı ‘çocuklardan korumayı’ başaramazsa, teknoloji şirketleri veri gizliliğimiz, refahımız ve genel olarak demokrasimiz pahasına bu düzenlenmemiş, serbest atmosferden yararlanacak” diye ekledi Steyer, yaptığı bir açıklamada, “Tüketiciler, tüm Amerikalıların, özellikle de çocukların ve gençlerin güvenliğini ve mahremiyetini tehlikeye atabilecek yapay zeka ürünleri için net bir beslenme etiketine erişebilmelidir” dedi “Tüm üretken yapay zeka, modellerin büyük miktarda internet verisi üzerinde eğitilmiş olması nedeniyle çok çeşitli kültürel, ırksal, sosyoekonomik, tarihsel ve cinsiyet önyargılarına ev sahipliği yapıyor – ve değerlendirmelerimizde de tam olarak bunu bulduk Ayrıca kuruluşun gizlilik endişelerini artırdığını söylediği kişisel kullanıcı verilerini de sakladı
Common Sense Media Yapay Zeka Kıdemli Danışmanı Tracy Pizzo-Frey, “Yapay zeka her zaman doğru değildir ve değerler açısından tarafsız da değildir” dedi: derecelendirmelerin özetinde )
İnternetteki herhangi bir yeni araç gibi, bu üretken yapay zeka modelleri de pornografik materyaller üretmek için kullanılıyor
Common Sense Media’nın kurucusu ve CEO’su James P Ebeveynlerin %82’si, ChatGPT gibi yeni yapay zeka ürünlerinin çocukları için güvenli olup olmadığını değerlendirme konusunda yardım istediklerini söyledi Bu yılın başlarında şirket, yakında ailelere yönelik kaynaklarına yapay zeka ürünlerine yönelik derecelendirmeleri de ekleyeceğini açıklamıştı