AI magabiztosság

Magabiztosabban vagyunk hülyék, ha mesterséges intelligenciát használunk

Egy francia–olasz kutatás szerint már önmagában az is jelentősen rontja az emberek ítélőképességét, ha van lehetőségük mesterséges intelligenciát használni egy kérdés megválaszolására, írja a TNW. A vizsgálatban azoknak az aránya, akik képesek voltak beismerni, hogy nem tudják a választ, 44 százalékról mindössze 3 százalékra esett vissza, ha MI segítségét is igénybe vehették. Ehhez képest a helyes válaszok aránya 27 százalékról 9 százalékra csökkent, a résztvevők magabiztossága viszont 30 százalékról 76 százalékra nőtt. Magabiztosabban mondjuk tehát a rossz válaszokat az MI segítségével, akkor is, ha magunktól fogalmunk sincs az adott témáról. A kutatók szándékosan olyan kérdéseket választottak a vizsgálat során, amelyekben a mesterségesintelligencia-modellek jellemzően hibáznak. Ilyenek voltak például filmek apró vizuális részletei – mondjuk az, hogy milyen színű volt egy csapat meze a Csavard be, mint Beckham című filmben. A vizsgálathoz a Step 3.5 Flash modellt használták, amely ezekben a feladatokban rendszerint téves választ adott. A vizsgálatban előfordult, hogy egyes résztvevők önállóan még helyesen válaszoltak volna, de miután megkérdezték az MI-t, végül rossz választ adtak. A kutatók pénzjutalommal is próbálták ösztönözni a pontos válaszadást, ez azonban csak mérsékelt javulást eredményezett. Azok aránya, akik inkább bevallották, hogy nem tudják a választ, 3-ról 8 százalékra emelkedett, a helyes válaszok aránya pedig 9-ről 16 százalékra. Ez azonban még mindig jóval elmaradt az MI nélküli csoport eredményeitől, ahol ezek az arányok 44, illetve 27 százalékot értek el. A jelenséget a Pennsylvaniai Egyetem kutatói korábban „kognitív megadásnak” (cognitive surrender) nevezték el. Egy idei kutatásuk szerint az emberek az esetek 80 százalékában elfogadják a mesterséges intelligencia téves válaszait, miközben magabiztosabbnak érzik magukat, mint azok, akik MI nélkül dolgoznak. Az új kutatás szerint azonban a probléma még mélyebb. Nemcsak arról van szó, hogy az emberek megbíznak a hibás MI-válaszokban, hanem arról is, hogy már az MI puszta jelenléte is háttérbe szorítja azt a gondolkodási képességet, hogy felismerjük saját tudásunk határait. A kutatók szerint ez különösen aggasztó a gyermekek esetében, akik úgy nőnek fel ezekkel a rendszerekkel, hogy kritikus gondolkodásuk még nem alakult ki teljesen.

forrás: telex.hu