Dario Amodei, directorul general al Anthropic, nu a respins posibilitatea ca inteligența artificială să ducă la dispariția omenirii. Întrebat de jurnalistul Anderson Cooper dacă AI ar putea ucide toți oamenii, el a spus că este „mult mai mult de acord decât în dezacord” cu avertismentul unui fost cercetător al companiei.
Jacob Coxon, care a demisionat din Anthropic, susține că dezvoltarea necontrolată a tehnologiei ar putea provoca extincția umanității până la sfârșitul acestui deceniu. Amodei nu a indicat însă o probabilitate exactă pentru un asemenea scenariu.
În opinia sa, riscurile trebuie analizate separat, nu tratate ca o singură amenințare. Printre pericolele menționate se află:
- pierderea controlului asupra sistemelor de inteligență artificială;
- atacurile cibernetice;
- bioterorismul;
- folosirea tehnologiei de către „oamenii nepotriviți”.
Coxon consideră că firmele din domeniu nu iau suficiente măsuri de precauție, chiar dacă oamenii implicați în dezvoltarea acestor sisteme cred că AI „ne-ar putea ucide pe toți până la sfârșitul deceniului”. El a avertizat că autoîmbunătățirea accelerată a inteligenței artificiale s-ar putea produce în următorii doi ani și ar genera un risc existențial.
Apel pentru reguli comune
Cu o zi înaintea interviului, Amodei a cerut încetinirea ritmului de dezvoltare a modelelor de inteligență artificială. El a propus ca firmele să permită evaluări independente și ca industria să stabilească, împreună cu guvernele, standarde comune de siguranță.
„Trebuie să încetinim ritmul în care îmbunătățim capacitățile modelelor de IA”, a transmis directorul Anthropic. El a adăugat că alegerea unor direcții sigure depinde de colaborarea dintre companiile din industrie.
Interviul integral acordat lui Anderson Cooper urmează să fie difuzat luni.