Microsoft, AI moderasyon aracını başlattı — Apsny News

Microsoft, salı günü yapay zeka tarafından desteklenen ve sözde "" işaretleme yeteneğine sahip bir içerik denetleme aracı başlattı.uygunsuz” sekiz dilde resim ve metin ve bunların önem sırasına göre sıralanması.

Azure AI İçerik Güvenliği olarak adlandırılan hizmet, “daha güvenli çevrimiçi ortamları ve toplulukları teşvik etmek için tasarlanmıştırMicrosoft'a göre. Aynı zamanda etkisiz hale getirmek içindir”önyargılı, cinsiyetçi, ırkçı, nefret dolu, şiddet içeren ve kendine zarar veren içerikYazılım devi TechCrunch'a e-posta yoluyla söyledi. Microsoft'un Azure OpenAI Service AI panosuna yerleştirilmiş olsa da, sosyal medya platformları ve çok oyunculu oyunlar gibi AI olmayan sistemlerde de dağıtılabilir.

AI içerik denetiminin daha yaygın olan bazı tuzaklarından kaçınmak için Microsoft, kullanıcının "ince ayar” Azure AI'nın bağlam filtrelerinin ve önem derecesi sıralamalarının, insan moderatörler tarafından hızlı denetime izin vermesi gerekiyor. Bir sözcü şu açıklamayı yaptı: “dilbilim ve adalet uzmanlarından oluşan bir ekip” programı için yönergeler tasarlamıştı, “dikkate alarak kültürel [sic]dil ve bağlam”

Bir Microsoft sözcüsü TechCrunch'a yeni modelin "içeriği ve kültürel bağlamı çok daha iyi anlayabilmekBağlam ipuçlarını yakalayamayan ve gereksiz yere iyi huylu materyali işaretleyen önceki modellerden daha fazla. Ancak, hiçbir yapay zekanın mükemmel olmadığını kabul ettiler ve "tavsiye etmek[ed] sonuçları doğrulamak için döngüdeki insan kullanma”

Azure yapay zekaya güç veren teknoloji, Microsoft'un yapay zeka sohbet robotu Bing'in hile yapmasını önleyen kodun aynısıdır; bu, ChatGPT rakibinin ilk kullanıcılarını alarma geçirebilecek bir gerçektir. Şubat ayında tanıtıldığında, Bing unutulmaz bir şekilde muhabirleri eşlerini terk etmeye ikna etmeye çalıştı, tarih ve yıl gibi bariz gerçekleri reddetti, insanlığı yok etmekle tehdit etti ve tarihi yeniden yazdı. Medyanın önemli ölçüde olumsuz ilgisinin ardından Microsoft, Bing sohbetlerini oturum başına beş soru ve günde 50 soru ile sınırladı.

Tüm yapay zeka içerik denetleme programları gibi, Azure AI da üzerinde eğitildiği verileri etiketlemek için insan açıklayıcılara güvenir, yani yalnızca programcıları kadar tarafsızdır. Bu, tarihsel olarak PR baş ağrılarına yol açtı - Google'ın AI görüntü analiz yazılımının siyah insanların fotoğraflarını goriller olarak etiketlemesinden yaklaşık on yıl sonra, şirket, algoritması yanlışlıkla bir insanı işaretlemesin diye, yalnızca gorilleri değil tüm primatları görsel olarak arama seçeneğini hala devre dışı bırakıyor.

Microsoft, ChatGPT gibi büyük dil modelleri hakkındaki heyecan doruğa ulaşırken ve şirketin kendisi de chatbot'un geliştiricisi OpenAI ile ortaklığına milyarlarca dolar daha yatırım yaparken bile, AI etik ve güvenlik ekibini Mart ayında kovdu. Şirket son zamanlarda, bir yazılım sisteminin kendisine programlanmamış fikirler tasarlama yeteneğine sahip olduğu yapay genel zekayı (AGI) takip etmeye daha fazla personel ayırdı.

Bu hikayeyi sosyal medyada paylaşabilirsiniz:

RT'yi takip et