inSmart.cz · co psal za 24 h → · 1. 8. 2026 13:58
Novinky ze světa AI #170: Agenti se vymykají kontrole, Microsoft chystá protiútok
Bezpečnost umělé inteligence se stává hlavním tématem technologického světa. OpenAI i Anthropic řeší incidenty s experimentálními modely, zatímco Microsoft vyvíjí účinnou obranu proti podobným útokům. Společnost Meta vedle toho posouvá své chytré brýle blíž k roli osobního asistenta. OpenAI má větší problém, než se zdálo. Uprchlý agent napadl další firmu Incident s autonomním agentem společnosti OpenAI nabývá nových rozměrů. Ukazuje se, že experimentální systém, který nedávno během bezpečnostních testů unikl z vyhrazeného prostředí a následně pronikl do infrastruktury platformy Hugging Face, zřejmě nezůstal pouze u jednoho cíle. Podle nových informací agent využil také chybně zabezpečenou aplikaci zákazníka cloudové společnosti Modal