„Anthropic“ vadovas ragina lėtinti dirbtinio intelekto plėtrą

„Anthropic“ vadovas Dario Amodei esė „We Must Pace the Frontier“ paragino sulėtinti dirbtinio intelekto plėtrą, kad saugumo tyrimai spėtų paskui augančias modelių galimybes. Kaip įspėjamąjį scenarijų, o ne prognozę, jis nurodo, kad per 6–12 mėnesių pajėgesnis nesuvaldytų DI agentų spiečius galėtų sukurti nuolatinį botnetą ir padaryti šimtų milijardų dolerių žalos. Elonas Muskas atsakė trumpai – „Dario teisus“, o „OpenAI“ vadovas Samas Altmanas pritarė siauresnei idėjai: nepriklausomiems vertintojams. Šį žingsnį „Anthropic“ žada žengti vienašališkai ir įsileisti išorės vertintojus, galinčius skelbti išvadas be bendrovės sutikimo.