Evan Hubinger

Pět tisíc, když vyhrajeme Tolik dolarů podle amerického prezidenta dostane každý dospělý Američan, pokud Republikánská strana vyhraje listopadové midterms – tedy volby do Kongresu v polovině mandátu…

Nejhlasitější varování týdne přišlo zevnitř firmy Anthropic – a odcházejícímu výzkumníkovi dali za pravdu i jeho současní kolegové.

Závod o stále schopnější umělou inteligenci nabírá na rychlosti. Část lidí, kteří nové systémy sami vyvíjejí, je ale toho názoru, že možnosti jejich kontroly postupují pomaleji, než by měly. Výzkumník Jacob Coxon proto kvůli obavám o bezpečnost odeš…

OpenAI či Anthropic závodí ve vývoji umělé superinteligence. Odborníci i politici ale varují před rizikem zkázy lidstva během následujícího desetiletí, pokud se včas nezavedou účinné bezpečnostní systémy. Zatímco jedni se obávají ztráty kontroly nad…

Virální příspěvek na síti X od bývalého zaměstnance dvou největších společností zabývajících se umělou inteligencí, Anthropic a OpenAI, ve středu doputoval až do amerického Kongresu a vyvolal bezprostřední reakci zákonodárců z obou hlavních politick…

Evan Hubinger říká, že společnost stále nemá jasný plán, jak udržet superinteligenci pod lidskou kontrolou...

AI vědci bijí na poplach. Americký výzkumník Jacob Coxon varuje, že se podle něj AI giganti chovají nezodpovědně. Nejde přitom jen o prázdná slova – kvůli svým obavám odešel z Anthropicu. Existuje desetiprocentní riziko, že AI během příští dekády za…

Umělá inteligence se podle některých odborníků vyvíjí tak rychle, že může v příštích letech představovat existenční hrozbu pro lidstvo. Evan Hubinger, přední výzkumník bezpečnosti umělé inteligence ve společnosti Anthropic, uvedl, že podle něj exist…

Z výzkumné laboratoře Anthropic odešel další inženýr. Bývalí i současní výzkumníci přiznávají, že pro bezpečnost superinteligence zatím nemají plán. Článek Lidé, kteří vyvíjejí AI, varují před její budoucností. Do konce dekády by podle nich mohla zn…