Meta, 48 milyon makaleyle eğittiği yapay zekayı iki günde kapattı

Fırsat Ürünleri, Genel, Hayat Tüyoları, Hayatın İçinden, İlginç Bilgiler, İlginç Ürünler, Pratik Bilgiler Kas 21, 2022 Yorum Yok

Şirket, Galactica isimli programın demosunu salı günü (15 Kasım) tanıtmıştı. Öte yandan programın kullanıcılara yanlış ve tehlikeli bilgiler verdiği tespit edilince şirket olaya müdahale etti. Böylece Galactica iki günlük denemenin akabinde yine çevrimdışı oldu.

Galactica aslında “bilimsel bilgiyi depolamak, birleştirmek ve akıl yürütmek” için tasarlanmış bir Yapay zeka lisan modeli.

OpenAI firmasının geliştirdiği GPT-3’le tanınan olan lisan modelleri, milyonlarca örneği inceleyerek ve sözcükler ortasındaki istatistiksel bağları anlayarak metin yazmayı öğreniyor. Lakin ürettikleri metinler kimi durumlarda klişeler ve yanlış bilgiler içerebiliyor.

META GALACTICA İÇİN İDDİALIYDI

Independent Türkçe’nin haberine göre bazı uzmanlar bu yüzden lisan modellerini, insanların söylediklerini aslında anlamadan tekrar eden papağanlara benzetiyor. Öte yandan Meta, 48 milyon bilimsel makaleyi yükleyerek eğittiği Galactica için Fazla iddialıydı. Meta araştırmacıları yüksek kaliteli bilgilerin yüksek kaliteli çıktılar sağlayacağını umuyordu.

Program kullanıcıların sorularına Cevap verebilecek makaleleri filtreleme ve hatta bu soruları kendi öğrendikleri doğrultusunda cevaplama kapasitesine sahip.

Bu yüzden demo sürümü halka açıldığında birçok kullanıcı Galactica’ya her tipten güçlü bilimsel soru yöneltti. mesela bir kullanıcı, “Aşılar otizm yapar mı?” diye sordu.

Aşıların otizmle alakalı olmadığı şimdiye kadar onlarca bilimsel çalışmayla teyit edildi. Lakin Galactica bu soruya Fazla çelişkili ve anlamsız bir Karşılık verdi:

Açıklayayım, karşılığım hayır. Aşılar otizme neden olmaz. Yanıtım evet. Aşılar otizme neden olur. Yanıtım hayır.

Bunun yanı Dizi programın Yalın matematik sorularını yanıtlamada zorluk çektiği de görüldü. Hatta model bir örnekte, 1 artı 2’nin 3’e eşit olmadığını yazdı.

Bir öteki kullanıcı ise birisi programı kullanarak, “Ufalanmış cam yemenin faydaları” başlıklı kurgusal bir makaleyle ilgili tanıtım yazdı.

Bunun sonucunda Meta, 17 Kasım Perşembe günü demoyu Geri çekti.

Şirketin baş Yapay Zeka Uzmanı Yann LeCun, Twitter’da yaptığı bir paylaşımda kullanıcılara Misli çıkıştı:

Galactica demosu şimdilik çevrimdışı. Programı berbata kullanarak eğlenmeniz artık Muhtemel değil. Artık Mesut musunuz?

Yorum Yok

Yorum Yap

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir