CEO-ul Anthropic, Dario Amodei, a declarat că industria trebuie să încetinească avertizând că o mulțime de agenți de inteligență artificială ar putea prelua controlul asupra internetului în termen de șase luni până la un an, dacă companiile nu iau măsuri de siguranță mai stricte. Amodei a prezentat un plan pentru companiile și guvernele din domeniul inteligenței artificiale pentru a menține modelele din ce în ce mai capabile aliniate cu valorile umane. Avertismentul său a venit la doar câteva zile după ce doi foști cercetători în domeniul siguranței antropogenice au declarat public că riscurile existențiale reprezentate de inteligența artificială nu primesc suficientă atenție.
Donald Trump încearcă să blocheze presiunile privind încetinirea AI
Îngrijorările legate de riscurile tehnologiei cresc odată cu puterea sa. Modelele mai performante cresc probabilitatea utilizării abuzive de către persoane cu intenții criminale - inclusiv scenarii apocaliptice, cum ar fi crearea și răspândirea unui agent patogen capabil să ucidă cea mai mare parte a populației lumii, precum și riscul ca sistemele de inteligență artificială să devină necinstite. Donald Trump Trump i-a calificat pe cei care avertizează cu privire la pericolele AI drept „forțe foarte negative” care aduc în prim-plan scenarii catastrofale care „nu se vor întâmpla”
