A Microsoft és a Carnegie Mellon University kutatói szerint az AI rendszerek túlzott mértékű kapcsolása akadályozhatja kritikus gondolkodási potenciálunkat, amikor az emberek a szintézist a gépekbe dobják. A tanulmányt áprilisban a japán Yokohama -ban, a számítástechnikai rendszerek humán tényezőiről szóló Chi konferencián mutatják be.
A tanulmányban a kutatók a kritikus gondolkodást hierarchikus piramisként definiálják, a tetején a tudás, amelyet az ötletek megértése, az ötletek gyakorlatába helyezése, a kapcsolódó ötletek elemzése, az ötletek szintetizálásának vagy kombinálásának, valamint az ötletek meghatározott kritériumokon keresztül történő értékelése követi.
A 319 tudásmunkás felmérései alapján, amelyeket általában fehérgalléros munkakörként lehet besorolni, a tanulmány megállapította, hogy bár a generatív AI javíthatja a hatékonyságot, „ez gátolhatja a munkával való kritikus elkötelezettséget, és potenciálisan hosszú távú túlzott mértékű támadást eredményezhet az eszközön. és csökkentett képessége a független problémamegoldáshoz. „
A kutatók azt találták, hogy a munkavállalók szeretik az AI használatát kétszer ellenőrizni munkájukat, és ezt megteszik, összehasonlítva azt más külső forrásokkal, hogy megfeleljenek egy bizonyos kritériumnak. Noha ehhez minden bizonnyal kritikus elemzést igényel, a kutatók megjegyzik, hogy a munkavállalók AI-t használják a rutin vagy az alacsonyabb téttel kapcsolatos feladatok automatizálására a „hosszú távú támaszkodás és a csökkent független problémamegoldás” aggodalmainak.
Érdekes, hogy amikor a munkavállalók magasabbak az AI válaszokban, akkor „úgy tűnik, hogy csökkentik a kritikus gondolkodási feladatokhoz szükséges erőfeszítéseket”. Azok a munkavállalók, akik valóban hisznek a saját szakértelmükben, nagyobb erőfeszítéseket tesznek az AI válaszok értékelésére. Tehát, bár az AI segíthet a munkavállalóknak az információk gyorsabb visszakeresésében, több időt tölthetnek arra, hogy mindezeket az információkat pontosnak és nem hallucinációnak igazolják.
„Ahogy a munkavállalók a feladat végrehajtásától az AI-felügyeletre váltanak, a gyakorlati elkötelezettséget az AI-outputok ellenőrzésének és szerkesztésének kihívása érdekében folytatják, feltárva mind a hatékonysági, mind a csökkenő kritikus reflexió kockázatait”-mondta a tanulmány.
A kutatók nem akarják, hogy az emberek végleges következtetéseket kapjanak az AI használatáról és gyengített kritikus gondolkodással. Elismerik, hogy a korrelációk nem jelzik az okozati összefüggést. Lehetetlen látni az emberi elme belsejében, és pontosan tudni, hogy milyen gondolatok ugrálnak körül, amikor egy ember elolvas egy AI által generált választ.
Ennek ellenére az adatok a kutatók néhány ajánlásához vezettek. A tanulmány szerint a munkavállalók az információgyűjtési feladatoktól a további információk ellenőrzéséig történő elmozdulásakor kiképzni kell őket az AI-kimenetek kereszthivatkozásának fontosságáról és azok relevanciájának felméréséről.
A tanulmány akkor jön létre, amikor az AI az összes ágazatban elterjed, különösen a vállalkozások számára, amelyek különösen nagy hatással vannak a vállalkozásokra, ami 41% -kal csökkenhet a munkaerőben, a Világgazdasági Fórum felmérése szerint. A Big Tech vezérigazgatói már elismerik, hogy további feladatokat töltöttek el az AI -hez, ami elbocsátásokhoz és kevesebb munkalehetőséghez vezet. A Klarna vezérigazgatója elmondta a BBC -nek, hogy már csökkentette munkaerőjét 5000 -ről 3800 -ra, és azt tervezi, hogy még tovább csökkenti 2000 -re, de elismeri, hogy a fennmaradó alkalmazottak többet fizetnek.
Donald Trump elnök, Joe Biden volt elnök AI biztonsággal kapcsolatos, Joe Biden elnök általi AI biztonsággal kapcsolatos végrehajtási végzését, a Big Tech kevesebb védőkorlátot adva. A múlt héten a Google megszüntette a fegyverek és a megfigyelő eszközök fejlesztésére használt AI tilalmát. Mindezek a változások a tanulmány eredményeit relevánsabbá teszik, mivel a munkavállalók több AI-eszközhöz férnek hozzá, és feladata a további AI által generált információk felügyelete.
A kutatók rámutattak, hogy bármilyen új technológiai innovációval az emberi megismerés csökkenésével kapcsolatos aggodalmak gyakoriak. Például megjegyzik, hogy Szókratész kifogásolták az írást.
De arra is rámutatnak: „Az automatizálás egyik legfontosabb iróniája az, hogy a rutin feladatok gépesítésével és az emberi felhasználó kivételes kezelésére hagyva, megfosztja a felhasználót a rutin lehetőségektől, hogy gyakorolják megítélésüket és megerősítsék kognitív izomzásukat, hagyják őket atrofáltak és hagyják őket. felkészületlen, ha a kivételek merülnek fel. „
