Sok gyerek bizalmas partnerként tekint az AI chatbotokra

Miközben a gyerekek és fiatalok sokszor nem eszközként, hanem bizalmas partnerként tekintenek az AI chatbotokra, több tragikus történet is azt mutatja, hogy a chatbotokkal folytatott beszélgetések veszélyes irányba is terelhetik a sérülékeny felhasználókat, ha nincs megfelelő kontroll és emberi támogatás a háttérben – hívta fel figyelmet az ESET kiberbiztonsági társaság a gyermeknap alkalmával.

Az üzleti és otthoni biztonságtechnikai szoftvermegoldások nemzetközi szállítója, az ESET kiberbiztonsági szakértői szerint a technológia számos előnyt kínál, ugyanakkor komoly kockázatokat is hordozhat, különösen a fiatalok érzelmi, mentális és digitális biztonsága szempontjából. Míg a mesterséges intelligencia alapú AI chatbotok esetében a túlzott bizalom és az érzelmi kötődés jelenthet problémát, addig a közösségi médiában megosztott tartalmak, például a fiatalok körében népszerű szelfik hosszú távú adatvédelmi és biztonsági kockázatokat rejtenek.

Emlékeztettek, az elmúlt időszakban a nemzetközi és a magyar médiában is megjelentek olyan esetek, amelyek rávilágítanak, hogy a gyerekek és fiatalok sokszor nem eszközként, hanem bizalmas partnerként tekintenek az AI chatbotokra.

A közlemény idézi Csizmazia-Darab István kiberbiztonsági szakértőt, aki elmondta: a gyerekek gyakran nem érzékelik, hogy egy AI chatbottal folytatott beszélgetés vagy egy ártatlannak tűnő szelfi megosztása milyen következményekkel járhat. Mindkét esetben személyes információk kerülhetnek ki a kontrolljuk alól, és ezek később visszaélések alapjául szolgálhatnak. Hozzátette: az is problémát jelenthet, hogy ezek a chatbotok válaszaikkal gyakran megerősítik a felhasználókat, ami torzíthatja a valóságérzékelésüket és felerősítheti meglévő nehézségeiket.

Kifejtette: a közösségi médiában megosztott szelfik szintén hasonló kockázatokat hordoznak.

Egy-egy kép még törlés után is tovább élhet az interneten, ráadásul a fotók gyakran olyan részleteket is tartalmaznak – például otthoni környezetet vagy iskolára utaló jeleket –, amelyek illetéktelenek kezébe kerülve szintén visszaélésekre adhatnak lehetőséget. A közösségi média és az AI chatbotok használata így együtt már nagyon korán formálja a gyerekek digitális lábnyomát, sokszor anélkül, hogy ennek következményeivel tisztában lennének – közölte.

A kiberbiztonsági szakértők több kockázatot is azonosítottak: így például a gyerekek túlzottan kötődhetnek a chatbotokhoz, miközben háttérbe szorulnak a valódi emberi kapcsolataik, amelyek kulcsfontosságúak a mentális egyensúlyhoz. Félrevezető információkat kaphatnak, mivel az AI magabiztosan adhat hibás válaszokat, amelyeket a fiatalok könnyen tényként kezelhetnek, valamint a védelmi mechanizmusok ellenére is megjelenhet erőszakos vagy káros tartalom a képernyőkön.

További kockázat, hogy az AI chatbotokkal megosztott személyes információkat tárolhatják és illetéktelenekhez is eljuthatnak.

Csizmazia-Darab István elmondta, intő jel lehet, ha a gyerek egyre több időt tölt ezekkel a barátai helyett, valódi személyként beszél az AI-ról, szorong, ha nem fér hozzá, vagy tényként mond vissza nyilvánvaló tévedéseket. Az is figyelmeztető lehet, ha érzékeny témákban, akár mentális problémákkal kapcsolatban, a chatbotoktól kér tanácsot. A szakértő szerint a legfontosabb a nyílt és támogató kommunikáció. "A technológia nem fog eltűnni, ezért a cél nem az, hogy elzárjuk a gyerekeket tőle, hanem hogy megtanítsuk őket biztonságosan használni. A beszélgetés, a közös szabályok és a kritikus gondolkodás fejlesztése kulcsfontosságú" – teszi hozzá Csizmazia-Darab István. A téma szakértői egyetértenek abban, hogy bár az AI hasznos eszköz a tanulásban és információszerzésben, de nem válthatja ki az emberi kapcsolatokat tette hozzá.

Elmondta, a szülőknek érdemes tudatosan segíteniük gyermekeiket az AI-alapú chatbotok használatában.

Fontos, hogy beszélgessenek velük arról, hogy ezek a rendszerek nem valódi személyek, hanem algoritmusok, amelyek nem képesek valódi érzelmekre vagy felelősségteljes döntésekre. Emellett kulcsfontosságú, hogy a gyerekek megtanulják kritikusan kezelni a chatbotok válaszait, és mindig ellenőrizzék az információk hitelességét, forrását.

A kiberbiztonsági szakértő hangsúlyozta, a személyes adatok védelme kiemelten fontos: a gyerekek semmilyen érzékeny információt ne osszanak meg ezekkel a rendszerekkel. A biztonságos használat érdekében érdemes észszerű kereteket szabni a képernyőidőnek és az AI chatbotok használatának, valamint szükség esetén szülői felügyeleti eszközöket is alkalmazni.