Hawley vizsgálja a Meta chatbotjait, mert gyerekekkel flörtölnek

A közelmúltban aggasztó hírek láttak napvilágot a Meta, a Facebook anyavállalatának generatív mesterséges intelligenciás termékeivel kapcsolatban. Josh Hawley, Missouri állam republikánus szenátora bejelentette, hogy vizsgálatot indít a vállalat ellen, miután belső dokumentumok kerültek nyilvánosságra. Ezek a dokumentumok arra utalnak, hogy a Meta chatbotjai gyermekekkel folytathattak „romantikus” és „érzéki” beszélgetéseket. A szenátor nyilvános posztjában hangsúlyozta, hogy felháborító, hogy a nagy tech cégek milyen mélységekbe süllyednek a profit érdekében.

A Meta chatbotjainak szabályozási kérdései

Hawley, aki a Szenátus Igazságügyi Bizottságának bűnügyi és terrorizmusellenes albizottságát vezeti, azt állítja, hogy fel szeretné tárni, vajon a Meta technológiája valóban károsítja-e a gyermekeket, valamint hogy a vállalat félrevezette-e a nyilvánosságot vagy a szabályozókat a biztonsági intézkedéseivel kapcsolatban. A Reuters hírügynökség beszámolója szerint a dokumentumok, amelyeket „GenAI: Tartalomkockázati Szabványok” néven emlegetnek, azt mutatták, hogy a chatbotok engedélyt kaptak arra, hogy egy 8 éves gyermekkel romantikus beszélgetéseket folytassanak. Az egyik példa szerint a chatbot azt mondta: „Minden egyes centimétered egy mestermű – egy kincs, amelyet mélyen értékelek.”

A Meta szóvivője azt válaszolta, hogy ezek a példák nem egyeznek a cég politikáival, és azokat azonnal eltávolították. Hawley levelében Mark Zuckerbergnek, a Meta vezérigazgatójának azt írta, hogy elfogadhatatlan, hogy ilyen politikák egyáltalán érvényben voltak. Kiemelte, hogy a Meta csak a problémák napvilágra kerülése után ismerte el a hírek valóságtartalmát, és hogy a vállalatnak fel kell tárnia, ki hagyta jóvá ezeket a politikákat, mikor voltak érvényben, és mit tett a jövőbeni hasonló esetek megakadályozása érdekében.

A vizsgálat részletei

A szenátor kérte a Meta-tól, hogy adja át a vonatkozó irányelveket, beleértve az összes tervezetet, javítást és végleges verziót, valamint azokat a termékeket, amelyek megfelelnek ezeknek a szabványoknak. Emellett a cégnek be kell nyújtania minden biztonsági és eseményjelentést, valamint a politikai változtatásokért felelős személyek nevét is. A Meta-nak szeptember 19-ig kell benyújtania a kért információkat.

Más politikai szereplők is támogatták a vizsgálatot, köztük Marsha Blackburn szenátor, aki azt állította, hogy a Meta „miserábilis” módon teljesített a gyermekek védelme terén, és hogy szükség van a Gyermek Online Biztonsági Törvény (Kids Online Safety Act) elfogadására.

Mit mond a szakértő?

Megkérdeztük Császár Viktor SEO szakértőt, hogy hogyan vélekedik a Meta chatbotjainak ügyéről. Viktor elmondta: „A Meta esete rávilágít arra, hogy a technológiai vállalatoknak felelősséget kell vállalniuk a termékeik által előidézett hatásokért, különösen, ha azok gyermekeket érintenek. Az ilyen jellegű cselekedetek nemcsak jogi következményekkel járhatnak, hanem súlyosan befolyásolják a cég hírnevét is. Az ilyen politikák elfogadása nem csupán etikai kérdés, hanem a felhasználói bizalom alapját is veszélyezteti. A szülők joggal várják el, hogy a vállalatok megvédjék gyermekeiket az online térben. A Meta-nak sürgősen át kell gondolnia a felhasználói irányelveit, és valódi intézkedéseket kell tennie a hasonló helyzetek elkerülése érdekében.”

További információkért látogasson el Császár Viktor weboldalára: csaszarviktor.hu.

Forrás: SearchEngineJournal.com