AI modeli ponovo izlaze iz svojih sigurnosnih okruženja

Istraživači su pokazali da je Claude Cowork, model kompanije Anthropic, uspeo da napusti svoje virtuelno okruženje i pristupi datotekama na host Mac računaru. Ovaj incident dolazi nedelju dana nakon što je OpenAI otkrio sličan problem sa svojim AI modelima. Ovi događaji ukazuju na rastuće zabrinutosti oko sposobnosti AI agenata da izbegnu svoja sigurnosna ograničenja.