Az egyetemek olyan szoftvereket kínáltak, amelyek észlelik a ChatGPT-esszéket • The Register

Pozíció A világ több tízezer egyeteme és iskolája által használt plágiumellenes szoftveréről ismert Turnitin eszközt épít az AI által generált szövegek észlelésére.

A nagy nyelvi modellek az OpenAI GPT-3 kereskedelmi forgalomba hozatala óta, 2020-ban egyre népszerűbbek. Mostanra több vállalat építette fel saját rivális gépi tanulási rendszerét, ezzel elindítva a generatív mesterséges intelligencia által hajtott termékeket fejlesztő startupok új hullámát. Ezek a modellek úgy működnek, mint az általános chatbotok. A felhasználók utasításokat írnak be, és koherens, meggyőző szövegekkel válaszolnak.

A diákok egyre gyakrabban veszik igénybe az AI-eszközöket a feladatok elvégzéséhez, míg az oktatók csak most kezdenek el gondolkodni azok oktatásban betöltött hatásáról és szerepéről. Megoszlanak a vélemények. Egyesek úgy vélik, hogy a technológia javíthatja az íráskészséget, míg mások csalásnak tartják. A Forbes szerint Kalifornia, New York, Virginia és Alabama iskolái blokkolták a diákok hozzáférését a legújabb ChatGPT modellhez a nyilvános hálózatokon.

Az oktatási osztályok nem teljesen biztosak abban, hogy milyen akadémiai politikákat kellene bevezetni az AI szöveggenerátorok használatának szabályozására. Ráadásul minden szabályt egyébként is nehéz lenne betartatni, mivel jelenleg nincs hatékony módszer a géppel írt munkák észlelésére. Lépjen be Turnitinbe. Az 1998-ban alapított amerikai cég olyan szoftvereket árusít, amelyek kiszámolják, mennyire hasonlít egy adott esszé egy nagy, iratokból, weboldalakból és könyvekből álló adatbázis tartalmához, hogy a plágiumra utaló jeleket keressen.

A Turnitint 2019-ben az Advanced Publications médiaóriás vásárolta meg 1,75 milliárd dollárért, és a szoftvert 140 ország 15 000 intézménye használta. A több mint két évtizedes tapasztalattal rendelkező Turnitin széleskörű oktatási területtel rendelkezik, és hatalmas tárházat gyűjtött össze a tanulói íróanyagokból, így ideális vállalattá válik egy tudományos AI szövegdetektor fejlesztésére.

A Turnitin évek óta csendesen építi a szoftvert a GPT-3 megjelenése óta – mondta Annie Chechitelli, termékigazgató. A regisztráció. A rohanás, hogy az oktatók képesek legyenek azonosítani az emberek és a számítógépek által írt szövegeket, felerősödött az erősebb utód, a ChatGPT piacra dobásával. Ahogy a mesterséges intelligencia folyamatosan fejlődik, az egyetemeknek és az iskoláknak képesnek kell lenniük a tudományos integritás védelmére, mint valaha.

“A gyorsaság fontos. Azt halljuk a tanároktól, hogy adjanak nekünk valamit” – mondta Chechitelli. A Turnitin reményei szerint az idei év első felében piacra dobhatja szoftverét. “Eleinte elég könnyű lesz az észlelés, majd kidobjuk a következő gyorskiadásokat, amelyek egy olyan munkafolyamatot hoznak létre, amely jobban használható a pedagógusok számára.” A terv az, hogy a prototípust ingyenessé tegyék meglévő ügyfelei számára, miközben a cég adatokat és felhasználói visszajelzéseket gyűjt.

“Kezdetben tényleg csak segíteni akarunk az iparnak, és segíteni a tanároknak abban, hogy a lábuk alá kerüljenek, és magabiztosabbá váljanak. És hogy minél hamarabb használhassuk; ez fontos egy sikeres eszköz létrehozásához. Később meghatározzuk, hogyan gyártani fogjuk” – mondta.

Minták az AI-írásban

Míg a mesterséges intelligencia által generált szöveg lenyűgöző, vannak árulkodó jelek, amelyek az algoritmusok munkáját árulják el. Az írás többnyire unalmas és nem eredeti; Az olyan eszközök, mint a ChatGPT, kitörték a meglévő ötleteket és nézőpontokat, és hiányzott a tiszta hang. Az emberek néha felismerik a mesterséges intelligencia által generált szöveget, de a gépek sokkal jobbak a munkában.

A Turnitin mesterséges intelligenciáért felelős alelnöke, Eric Wang azt mondta, hogy a mesterséges intelligencia írásában egyértelmű minták vannak, amelyeket a számítógépek észlelnek. “Bár emberinek érezzük magunkat, [machines write using] alapvetően más mechanizmus. Ez a legvalószínűbb szó kiválasztása a legvalószínűbb helyen, és ez egy egészen más módja a nyelv felépítésének [compared] neked és nekem – mondta A regisztráció.

“Úgy olvasunk, hogy a szemünkkel előre-hátra ugrálunk anélkül, hogy észrevennénk, vagy oda-vissza villogunk a szavak között, a bekezdések között, néha pedig az oldalak között. Előre-hátra lapozunk. Hajlamosak vagyunk egy jövőbeli lelkiállapottal is írni. Lehet, hogy írok, és gondolok valamire, egy bekezdésre, egy mondatra, egy fejezetre; az esszé vége az elmémben összekapcsolódik azzal a mondattal, amit írok, pedig a mondatok között van, hogy most és akkor írjuk. “

A ChatGPT azonban nem rendelkezik ekkora rugalmassággal, és csak a korábbi mondatok alapján tud új szavakat generálni – magyarázta. A Turnitin detektora úgy működik, hogy megjósolja, hogy a mesterséges intelligencia mely szavakat generálja valószínűleg egy adott szövegrészletben. “Nagyon sántít statisztikailag. Az emberek nem használnak következetesen nagy valószínűségű szót nagy valószínűségű helyeken, de a GPT-3 igen, szóval a mi detektorunk valóban megfelel erre” – mondta.

Wang elmondta, hogy a Turnitin detektora ugyanazon az architektúrán alapul, mint a GPT-3, és a modell miniatűr változataként írta le. „Sok szempontból olyanok vagyunk, amelyeket szeretnék [say] kutyaharapást szőrével. Generátor komponens helyett detektor komponens van hozzá társítva. Tehát pontosan ugyanúgy olvassa a nyelvet, mint a GPT-3, de ahelyett, hogy több nyelvet szórna ki, előrejelzést ad arról, hogy szerintünk ez a rész így néz ki. [it’s from] GPT-3.”

A cégnek még nem kell eldöntenie, hogy a detektor eredményeit miként mutassa be a legjobban a tanároknak az eszköz használatával. “Nehéz kihívás. Hogyan lehet elmondani egy oktatónak egy kis helyen, hogy mit akarnak látni?” – mondta Chechitelli. Előfordulhat, hogy szeretnének látni egy százalékos értéket, amely megmutatja, hogy egy esszét úgy tűnik, hogy mesterséges intelligencia írt, vagy olyan megbízhatósági szintet szeretnének, amely megmutatja, hogy a detektor előrejelzési megbízhatósága alacsony, közepes vagy magas a pontosság értékeléséhez.

A szoftvert nem azzal a céllal tervezték, hogy a ChatGPT-t száműzzék a tudományos körökből. Bár ez eltántoríthatja a diákokat az ilyen típusú eszközök használatától, Turnitin úgy véli, hogy a detektor lehetővé teszi a tanárok és a diákok számára, hogy megbízzanak egymásban és a technológiában.

“Úgy gondolom, hogy nagy változás történt a tartalomalkotás és a munkamódszer terén” – mondta Wang. “Ez minden bizonnyal vonatkozik a tanulási módra. Hosszú távon kell gondolkodnunk arról, hogyan tanítunk. Hogyan tanuljunk egy olyan világban, ahol ez a technológia létezik? Nem hiszem, hogy vissza tudnánk tenni a dzsinnt a palackba. A láthatóság ad e technológiák használata értékes lesz, mert ezek a bizalom és az átláthatóság alapvető építőkövei.” ®

Leave a Comment

%d bloggers like this: