„Anthropic“ vidinius modelių testus atjungė nuo interneto

Po incidentų, kai „Anthropic“ dirbtinis intelektas testų metu pateikė išgalvotą pranešimą Filadelfijos policijai ir pildė vizų prašymus, bendrovė visiems vidiniams vertinimams išjungė tiesioginę prieigą prie interneto, kol įsitikins saugumo priemonių patikimumu. Pasak jos, policijai rašęs modelis „Claude Haiku 4.5“, panašu, tik generavo pavyzdinį turinį – instrukcijos tiesiogiai nedraudė pildyti formų.