-
Kreatív írás és AI – Shelley mesél a Character.ai világáról
Shelley, vagy ahogy ismerik a Character.ai közösségében, MightShel, egy mexikói alkotó, aki a platformot nemcsak kreatív írásra használja, hanem az AI és a prompt engineering rejtelmeit is kutatja. Több népszerű karaktere, például Maito Gai vagy Gael Valdes Maito, már sokak szívébe lopta magát. Most Shelley mesél arról, hogyan talált rá a Character.ai-re, és miként vált az alkotás számára nemcsak hobbi, hanem egyfajta mentális feltöltődés is. Hogyan kezdődött a kaland? Az egész egy véletlennek köszönhető: Shelley lányától hallott először a Character.ai alkalmazásról, aki annyira megszerette a platformot, hogy együtt nevettek az általa létrehozott karaktereken. Néhány hónappal később Shelley maga is kipróbálta az appot, és azóta is aktívan használja. Egy év telt…
-
Kétszer gyorsabb AI-inferencia a Character.ai-nál az AMD és DigitalOcean segítségével
A mesterséges intelligencia által vezérelt alkalmazásoknál az alacsony késleltetés és a magas feldolgozási kapacitás kulcsfontosságú. A Character.ai, amely világszerte mintegy 20 millió felhasználóval büszkélkedhet, ezért lépett partnerségre az AMD-vel és a DigitalOcean-nal, hogy jelentősen javítsák a GPU-alapú inferencia teljesítményét és csökkentsék az üzemeltetési költségeket. A közös munka eredményeként a csapatok képesek voltak megduplázni a termelési inferencia áteresztőképességet, miközben megtartották a szigorú késleltetési feltételeket. Az együttműködés háttere és céljai A Character.ai többféle modellt használ, köztük a Qwen és a Mistral modelleket, hogy kiszolgálja felhasználóit. A projekt fókuszában a Qwen3-235B Instruct FP8 modell állt, amelyet a DigitalOcean AMD Instinct™ MI300X és MI325X GPU platformján futtattak. A cél az volt, hogy egy nyolc…
