• Mesterséges intelligencia

    Fejlődő biztonság: Anthropic új felelősségteljes AI-szabályzata

    Az Anthropic nemrégiben bemutatta a felelősségteljes skálázás (Responsible Scaling Policy, RSP) harmadik verzióját, amely egy önkéntes irányelv az AI-katasztrófák elkerülésére. A több mint két éve működő szabályzat célja, hogy lépést tartson az egyre gyorsabban fejlődő mesterséges intelligencia képességeivel, és hatékony válaszokat adjon az újonnan felmerülő kockázatokra. Miért volt szükség az RSP-re? Az eredeti RSP 2023 szeptemberében született meg, amikor a nagyméretű nyelvi modellek még elsősorban chatfelületek voltak. Azóta azonban ezek az AI-rendszerek jelentősen fejlődtek: képesek böngészni az interneten, programkódot írni és futtatni, valamint önálló, összetett lépéseket végrehajtani. Ezzel párhuzamosan új veszélyek is megjelentek, amelyek kezelése túlmutat a korábbi szabályozási kereteken. Az RSP erre a gyorsan változó környezetre adott válaszként az…