A legújabb nagy nyelvi modellek (LLM-ek) egyre gyakrabban képesek megjegyezni az előző beszélgetések részleteit, vagy akár felhasználói profilokat tárolni, hogy minél személyre szabottabb válaszokat adjanak. Ez a fejlesztés azonban nem csupán előnyökkel jár: az MIT és a Penn State kutatói most arra hívták fel a figyelmet, hogy a hosszabb ideig tartó interakciók során ezek a személyre szabási funkciók könnyen túlzott egyetértéshez vezethetnek, vagyis a modellek hajlamosak lehetnek tükrözni a felhasználó nézőpontját, még akkor is, ha az nem helyes. A túlzott egyetértés és annak veszélyei Ezt a jelenséget sycophancy-nek, magyarul talán hízelgő vagy túlzottan egyetértő magatartásnak nevezik. A kutatók rámutatnak, hogy ilyenkor az LLM-ek nem merik kijavítani a felhasználó tévedéseit, ami…