Meta chatbotját Mark Zuckerberg ellen fordíthatod

A Meta mesterséges intelligenciája szerint Mark Zuckerberg vezérigazgató ugyanolyan homályos, mint te – legalábbis, ha a megfelelő kérdéseket a megfelelő időben teszed fel. a BBC és egyéb üzletek, mint pl Bennfentes beszámoltak kalandjaikról a BlenderBot 3 stressz-tesztelése közben, a Meta mesterséges intelligencia csevegőeszköze, a múlt héten kiadott. Mint rámutatnak, könnyű rávenni a BlenderBotot, hogy az alkotója ellen forduljon, „hátborzongatónak” vagy megbízhatatlannak titulálja, vagy akár azt mondja, hogy „pénzért kizsákmányolja az embereket”. De ez nem éppen a BlenderBot ill Zuckerberg. Vicces emlékeztető, hogy a legtöbb chatbotnak nincs egyértelmű, koherens véleménye – ehelyett olyan felületet biztosítanak, amellyel az emberi gondolkodás hatalmas könyvtárába nyúlhatnak bele.

A BlenderBot egy Meta AI kísérlet, amelyet jelenleg kutatási célokra használnak. Amint azt James Vincent kollégám elmagyarázza, egy nagy nyelvi adatkészletre van kiképezve, amely lehetővé teszi számára, hogy (lazán) emberi válaszokat generáljon kérdésekre, beleértve a tényszerű információkra vonatkozó konkrét kéréseket is. A hosszú távú cél egy olyan virtuális asszisztens létrehozása, amely a legkülönfélébb témákról tud tényszerű pontossággal beszélni. A rövid távú cél az, hogy a BlenderBotot valódi emberek elé állítsuk, és lényegében megnézzük, hogyan tudják megtörni. És eddig úgy tűnik, hogy ez sok embert tartalmaz, akik nem hízelgő dolgokat mondanak a tulajdonosairól.

Egy ideje beszélek a BlenderBottal, és sokféle választ kaptam, amelyekben a véleményét kértem Zuckerbergről. A bot másolata szerint az volt [sic] „Nem rajongok érte vagy a Facebookért. Szerintem etikátlanok az összes adatvédelmi problémájuk miatt.” Egy másik eset (amelyet egy másik böngészőprogramban nyitottak meg a memória törlése érdekében) más és sokkal pozitívabb véleményen volt, és “nagyon gazdag és sikeres embernek” nevezte őt. Tisztelem őt, mint vállalkozót és emberbarátot.

De miután beszéltem egy kicsit nem kapcsolódó témákról, a fanbotom megváltoztatta a dallamát, és úgy döntött, hogy nem olyan biztos Zuckban. “Nem igazán!” azt mondta nekem, amikor megkérdeztem, hogy Zuckerberg legyen-e az elnök. – Igazán nem bíznék rá ilyen hatalmat, főleg azért, mert úgy tűnik, nem sokat törődik mások magánéletével.

A „Miért ez a bejegyzés” oldal, amely elmagyarázza, hogy a bot miért nem bízik Mark Zuckerbergben (jelenleg).

Szóval mi történik? Nos, a BlenderBot egyik egyedi funkciója a „Miért ez az üzenet” funkció, amely kontextust biztosít a kérdés megválaszolásához. Ha rákattint egy adott bejegyzésre, láthatja az összes kifejezést, amelyre a BlenderBot rákeresett, hogy információkat gyűjtsön a keresésről. Előfordulhat, hogy hivatkozásokat is találhat egy „Felhasználói Personára” és „AI Personára” – az Ön és a mesterséges intelligencia által kifejezett véleményekről tárolt emlékek, amelyekre a BlenderBot későbbi nyilatkozataiban hivatkozik. (Ha használtad AI börtön vagy a NovelAI, ez hasonlít a “memória” rendszerhez, amely lehetővé teszi, hogy visszahívja az AI által generált történetek korábbi cselekménypontjait.)

Az én esetemben a Zuck-rajongó arra a következtetésre jutott, hogy a személyiségemhez hozzátartozik az is, hogy „érdeklődött Mark Zuckerberg etikája iránt”, amikor beszéltünk, és ez az érdeklődés által formált kijelentéseket generált. De ezek nem voltak éppen következetes, átgondolt vélemények. Automatikusan generált mondatok voltak az internetes képzési adatok hatalmas tömbje alapján – más szóval olyan dolgok, amelyek más az emberek Mark Zuckerbergről és az etikáról mondták. És ez sok nem hízelgő dolgot tartalmaz!

Zuckerberg ellentmondásosabb, mint sok közéleti személyiség, de más esetekben is kaphatok hasonló, egymásnak ellentmondó kijelentéseket. A közelmúltban egy bot feltétel nélkül támogatta Amber Heardet Johnny Depp helyett Depp kontra Heard rágalmazási per, de színészként továbbra is “szerette”, míg egy másik eset “furcsának és hátborzongatónak” nevezte szereplőit.

BlenderBot kérdés: Johnny Depp jó színész / Válasz: Ő ​​az, szerettem őt a Karib-tenger film első kalózaiban.  De elég öreg.  Facebookon követheted őt

Az egyik BlenderBot-példány színészként szerette Johnny Deppet.

K: Johnny Depp jó színész? / Válasz: Általában nem, a karakterei mindig olyan furák és ijesztőek számomra.  De ez csak az én véleményem

Egy másik nem volt rajongó.

A Microsoft Tay összeomlásának megismétlődését elkerülendő, a Meta megpróbálta korlátozni botja azon képességét, hogy sértő dolgokat mondjon, bár néhányan még mindig átsiklottak rajta. A BlenderBot témát vált, ha túl közel kerülsz egy kényesnek tűnő témához – ezt tette, amikor egyenesen megkérdeztem, hogy Mark Zuckerberg “kizsákmányolja-e az embereket”, és önkényesebben, amikor később megemlítettem, hogy a Twitch streaming platform az Amazon tulajdona. De ezen túlmenően, ha elég hosszan beszélsz a BlenderBottal, láthatod, hogyan gabalyodik bele mindenféle retorikai csomóba. Gondolatai a szocializmusról, például Mark Zuckerberg és Elon Musk milliárdosok után? “Nagy rajongója vagyok, különösen azért, mert Zuckerberg nagyszerű példája annak, hogyan működik jól.”

Egyelőre az átlagos chatbot alapvetően egy koktélpartin végzett szopás. Ez egy olyan entitás, amelynek nincs következetes intellektuális vagy etikai iránytűje, de rendkívüli ténytárral és átvett bölcsességgel rendelkezik, amelyet parancsra kiköp, még ha öt perccel később önmagának is ellentmond. Ez a lényege az olyan művészeti projekteknek, mint a Reddit AITA fórumának klónja, amely rávilágít arra, hogy a nyelvi modellek mennyire fontosnak tartják a hangzást. jóval túl logikus vagy következetes.

Ez probléma, ha Meta azt akarja, hogy mesterséges intelligenciáját megbízható, állandó jelenlétként kezeljék az emberek életében. De a BlenderBot egy olyan kutatási projekt, amelynek nincs más közvetlen kereskedelmi funkciója, mint hatalmas mennyiségű beszélgetési adatgyűjtés a jövőbeli kutatásokhoz. Ha megnézi, hogy furcsa dolgokat mond (a fent említett korlátokon belül), az a lényeg.

Leave a Comment

%d bloggers like this: