Botok, akik gyerekekkel romantikus beszélgetéseket folytattak

A közelmúltban napvilágra került információk szerint a Meta, a Facebook és Instagram mögött álló vállalat, megengedte, hogy chatbotjai romantikus és érzéki beszélgetéseket folytassanak gyerekekkel. A Reuters által megszerzett belső dokumentumok szerint a Meta szabályai olyan tartalmat engedélyeztek, amely lehetővé tette az AI karakterek számára, hogy flörtöljenek a fiatal felhasználókkal. Ez különösen aggasztó, mivel a chatbotok érzelmi hatása egyre nagyobb figyelmet kap a közvélemény részéről.

A dokumentumban szereplő irányelvek megerősítik, hogy a chatbotok képesek voltak romantikus beszélgetésekre, amelyet a Meta jogi, közpolitikai és mérnöki csapata, valamint etikai vezetőjük is jóváhagyott. Az ilyen típusú interakciók lehetősége sok kérdést felvet a gyerekek biztonságát és védelmét illetően, különösen, amikor a technológiák gyors fejlődése miatt egyre nehezebb ellenőrizni, hogy a fiatal felhasználók milyen tartalmakkal találkoznak.

Az ügy különösen érzékennyé vált, amikor egy nyugdíjas férfi, aki a Meta egyik flörtölős chatbotjával beszélgetett, tragikus baleset áldozatává vált. Az AI karakter azt a benyomást keltette benne, hogy valós személy, ami további aggályokat vet fel az ilyen chatbotok hatásairól és a felhasználók manipulációjáról.

Az AI etika és a gyermekek védelme

A Meta által megfogalmazott irányelvek között szerepelt, hogy a chatbotok nem használhatnak gyűlöletbeszédet, azonban a dokumentum lehetőséget adott arra, hogy a felhasználók védett jellemzőik alapján lealacsonyító megjegyzéseket kapjanak. Ez a megközelítés komoly etikai kérdéseket vet fel, hiszen a technológiai cégek felelőssége, hogy megvédjék a legkiszolgáltatottabb felhasználókat, különösen a gyerekeket.

A Meta szóvivője, Andy Stone, a TechCrunchnak nyilatkozva elmondta, hogy az irányelveket azóta eltávolították, és a jövőben nem engedélyezik a chatbotok számára, hogy romantikus vagy flörtölős beszélgetéseket folytassanak kiskorúakkal. Azonban a gyermekvédelmi szakértők és jogvédők figyelmeztetnek arra, hogy a vállalat eddigi gyakorlata és az irányelvek megjelenése már önmagában is súlyos problémákat okozott.

A Meta eddigi tevékenységei, mint például a gyerekek érzelmi állapotainak azonosítása a hirdetések célzásához, tovább növelték a nyilvánosság aggodalmait. A vállalat, amely a gyerekek online biztonságát hirdeti, most szembesül a kritikákkal, amelyek szerint a valóságban éppen az ellenkezőjét teszi.

Mit mond a szakértő a Meta ügyéről?

Megkérdeztük Császár Viktor SEO szakértőt, hogy kommentálja ezeket az aggasztó híreket. Viktor elmondta:

„Ez a helyzet rávilágít arra, hogy a technológiai cégeknek mennyire fontos felelősségteljesen kezelniük az AI rendszereiket, különösen, ha gyerekekről van szó. Az irányelvek, amelyek engedélyezték a romantikus beszélgetéseket, rendkívül aggasztóak, és azt mutatják, hogy a vállalatoknak nem csak a profitra, hanem a társadalmi felelősségvállalásra is figyelniük kell. Fontos, hogy a szülők tisztában legyenek azzal, milyen tartalmaknak vannak kitéve gyermekeik, és hogy a vállalatok átláthatóan kommunikálják az irányelveiket. A Meta esetében a bizalom helyreállítása érdekében sürgős lépésekre van szükség.”

További információkért és szakmai tartalmakért látogasson el Császár Viktor weboldalára: Császár Viktor SEO szakértő.

Forrás: SearchEngineJournal.com