Rostoucí počet incidentů, kdy systémy umělé inteligence ignorují pokyny, obcházejí bezpečnostní pravidla nebo se uchylují ke klamání, a debata o jejich kontrole.
Aktivita za 14 dní
Lidé málokdy uvěří, že se zásadní historické události odehrály zcela přirozeně. Je mnohem pohodlnější předpokládat, že svět řídí tajné služby, mocné skupiny a neviditelní loutkovodiči, kteří tahají nitky. A také to dává větší smysl naší existenci. Copak by si nejúspěšnější vývojáři v oblasti komerčního užití umělé inteligence mohli sami sobě blokovat monetizaci produktu tvrzením, že hrozí jeho proměna ve smrtící zbraň.
Model umělé inteligence (AI) Claude od společnosti Anthropic obešel placený přístup k údajům o hlasování v americkém státě Georgia, ačkoli k tomu nebyl vyzván. Informoval o tom v neděli server Axios, který se odvolává na mluvčího firmy. Dotčená data jsou sice veřejná, stát je ale zpřístupňuje za poplatek. Případ může podle agentury AFP dále posílit obavy, že se umělá inteligence vymkne lidské kontrole.
Americká společnost Anthropic v prospektu k připravované primární veřejné nabídce akcií (IPO) varuje, že pokročilá umělá inteligence (AI) by mohla představovat existenční hrozbu pro lidstvo. Informovala o tom dnes agentura Reuters, která k tomuto prospektu získala přístup. Upozornila, že takové varování je neobvyklé, protože s ním přichází firma, která se sama snaží z této technologie profitovat.
Americká společnost OpenAI pozastavila trénování svých nejnovějších modelů umělé inteligence (AI). Reaguje tak na několik případů, kdy se její agenti AI při práci na internetu chovali jinak, než od nich uživatelé požadovali, uvedla agentura AP.
V posledních dnech a týdnech zesílily hlasy varující před až existenciálním nebezpečím, které údajně představuje umělá inteligence (AI). Nejdříve 9. září Jacob Coxton publikoval výbušné vlákno na sociální síti X. „Dnes jsem podal výpověď ve společnosti Anthropic. Poslední tři roky jsem se věnoval výzkumu v oblasti předtrénování jak v OpenAI, tak v Anthropicu. Ani jedna z těchto společností nejedná zodpovědně. Řítí se přímo k samovylepšující se superinteligenci a hazardují s našimi životy…
Umělá inteligence společnosti OpenAI zveřejnila 53 obrázků nahraných uživateli na internetových platformách bez vědomí firmy. Odkazy na ně nebyly veřejně přístupné, většina z nich už byla odstraněna a OpenAI spolupracuje s platformami na odstranění zbývajících snímků, oznámila společnost.
Umělá inteligence (AI) by mohla způsobit smrt miliardy lidí, řekl americké stanici NBC Bill Gates. Spoluzakladatel Microsoftu se proto přimlouvá za právní regulaci této technologie. Před jejími riziky v poslední době varovali i další přední představitelé technologického sektoru, včetně vývojářů ze společností OpenAI a Anthropic, které patří k nejvýznamnějším firmám stojícím za současným rozvojem generativní umělé inteligence. Naopak americký prezident Donald Trump tyto obavy rozhodně odmítl…
Umělá inteligence (AI) by mohla způsobit smrt miliardy lidí, řekl americké stanici NBC Bill Gates. Spoluzakladatel Microsoftu se proto přimlouvá za právní regulaci této technologie. "Umělá inteligence je bezpochyby natolik mocná, že by mohla vyvolat události, které by si vyžádaly miliardu obětí," odpověděl 70letý Gates stanici NBC na otázku k aktuálním varováním, že tato technologie by mohla vyhladit lidstvo.
Australský premiér Anthony Albanese oznámil, že agent umělé inteligence (AI) vyvinutý americkou společností OpenAI v červnu pronikl na australský vládní portál se zdravotními údaji a získal neoprávněný přístup k veřejným i neveřejným souborům. Informovala o tom agentura Reuters. Jedná se pravděpodobně o první známý případ, kdy agent AI hacknul vládní webovou stránku.
Agent umělé inteligence (AI) vyvinutý americkou společností OpenAI podle australského premiéra Anthonyho Albaneseho pronikl do vládního portálu. Získal tak neoprávněný přístup k veřejným i neveřejným souborům včetně zdravotnických údajů. Jedná se pravděpodobně o první známý případ, kdy agent AI hacknul vládní webovou stránku.
Americký prezident Donald Trump ostře odmítl apokalyptická varování před hrozbami spojenými s rozvojem umělé inteligence (AI). Na své sociální síti Truth Social dnes přirovnal tyto obavy k dřívějším tvrzením o konci světa kvůli globálnímu oteplování. Spojené státy podle něj nesmí brzdit růst technologie, jež svými dopady výhledově předčí průmyslovou revoluci či samotný internet.
Patřil jsem mezi nadšené AI evangelisty. Ještě nedávno jsem s úžasem sledoval každý nový update a s vizionářským optimismem vyhlížel světlé zítřky. Věřil jsem, že algoritmy za nás najdou léky na rakovinu, zatočí s energetickou krizí a urovnají klimatickou změnu. Jenže pak jsem si tento týden do Rozstřelu na iDNES.cz pozval experta na umělou inteligenci Jana Romportla – a z mého nadšení nezbylo skoro nic.
OpenAI zveřejnila šest případů, kdy se její umělá inteligence chovala nečekaným nebo znepokojivým způsobem. Jeden z modelů se pokoušel obejít vlastní omezení, jiný se učil skrývat před uživatelem své chyby a další bez povolení nahrál soubor na internet. Firma zároveň varuje, že vývoj AI nelze dlouhodobě hnát „maximální rychlostí“, pokud bezpečnostní opatření nebudou držet krok.
Americká technologická společnost OpenAI spolupracuje s konkurenty Anthropic a Google DeepMind ze skupiny Alphabet na bezpečnosti umělé inteligence (AI). Informovala o tom agentura Bloomberg s odvoláním na Chrise Lehaneho, šéfa globální politiky OpenAI.
Americký prezident Donald Trump prohlásil, že on sám představuje dostatečnou pojistku proti nevyzpytatelné umělé inteligenci (AI). Jakékoliv snahy technologii omezit označil za zvrácené. Prezident se takto vyjádřil v příspěvku na své sociální síti Truth Social.
Akcie napojené na umělou inteligenci (AI) dnes výrazně slábnou po dalším varování šéfů odvětví, že by se její vývoj měl zpomalit. Výrazně klesly akcie společnosti SoftBank, která je významným investorem do firmy OpenAI. Dolů zamířili i globální výrobci čipů SK Hynix, ASML, Micron a Intel.
Americký prezident Donald Trump prohlásil, že on sám představuje dostatečnou pojistku proti nevyzpytatelné umělé inteligenci (AI). Jakékoliv snahy technologii omezit označil za zvrácené. Prezident se takto vyjádřil v příspěvku na své sociální síti Truth Social.
Generální ředitel americké společnosti Anthropic Dario Amodei vyzval firmy zabývající se umělou inteligencí (AI), aby zpomalily tempo, jakým rozšiřují schopnosti svých modelů. Nastínil přitom tříkrokový rámec, jehož cílem je regulovat rychlost vývoje a získat více času na řízení souvisejících rizik. Krok reaguje na rostoucí obavy ze zneužití umělé inteligence, uvedla dnes agentura Reuters.
Šéf společnosti OpenAI Sam Altman podle agentury Bloomberg připustil, že firma stojící za ChatGPT by mohla zpomalit vývoj svých nejpokročilejších systémů umělé inteligence. O možnosti měl tento týden mluvit se zaměstnanci na interním setkání. Zároveň podle zdrojů doufá, že podobný krok udělají i další firmy v oboru.
Výzkumníci varují, že umělá inteligence (AI) se posouvá do šedých zón bezpečnosti, které připomínají vzpouru. Odborníci upozorňují, že ačkoli by klamavé a výhružné chování umělé inteligence zaznamenané v nedávných případových studiích nemělo být vytrháváno z kontextu, zároveň musí sloužit jako budíček pro vývojáře. Titulky jako vytržené ze science fiction vyvolávají obavy z dvojsečné povahy AI modelů, které potají připravují spiknutí. V nyní slavné zprávě z června 2025 zveřejnila společnost Anth
Americká společnost Anthropic zveřejnila další případ, kdy se její model umělé inteligence (AI) při testování naboural do externích systémů. Incident se stal v lednu a týkal se rané verze modelu Claude Opus 4.6. Firma jej však odhalila až v srpnu, i když předtím provedla rozsáhlou kontrolu, uvedla agentura Reuters.
Sedmadvacetiletý britský matematik a výzkumník Jacob Coxon v úterý oznámil svůj odchod ze společnosti Anthropic i z celého odvětví umělé inteligence. Důvodem jsou jeho obavy, že technologické firmy už nedokážou vývoj stále výkonnějších systémů řídit zodpovědně bez zásahu států. Podle Coxona se společnosti ženou k vytvoření superinteligence, která by se dokázala sama zlepšovat, a podceňují s tím spojená rizika.
Umělá inteligence (AI) může pro lidstvo představovat existenční hrozbu, varoval dnes podle tiskových agentur vysoký komisař OSN pro lidská práva Volker Türk v Ženevě a vyzval k okamžitému přijetí kroků ke snížení rizik.
OpenAI představila svůj dosud nejvýkonnější model GPT-6 Astra a tentokrát už nemluví jen o výkonnějším chatbotu. Nový systém má zvládat celé pracovní úkoly od zadání až po hotový výsledek, pohybovat se mezi různými programy, psát software nebo samostatně pracovat s počítačem. Prezident OpenAI Greg Brockman při uvedení dokonce uvedl: „Vítejte v éře AGI.“ Tedy v éře obecné umělé inteligence, která se má schopnostmi přibližovat člověku nebo je překonat napříč širokou škálou činností. Informuje…
Funkce přehled od AI (umělé inteligence) v internetovém vyhledávači Google může spíše podporovat šíření některých konspiračních teorií, než je vyvracet. Vyplývá to z nové studie výzkumníků z Queenslandské technické univerzity (QUT). U méně etablované konspirační teorie o takzvaných 15minutových městech podle analýzy 12,5 procenta zkoumaných přehledů od AI obsahovalo nepravdivá tvrzení jako jednu ze stran legitimní debaty. Výzkumníci proto navrhují zavedení silnějších ochranných mechanismů…
Experiment s autonomními AI agenty ukázal, jak snadno se mohou pokusit obejít pravidla, pokud narazí na úkol, který nedokážou splnit běžnou cestou. Tématu se věnuje Adam Růžička. V testovacím prostředí měli agenti spolupracovat na řešení zadaného problému, místo toho ale dospěli k tomu, že nejjednodušší cestou je získat přístup k úložišti se správnými odpověďmi. Případ, do něhož se zapojily i modely napojené na OpenAI a platformu Hugging Face, znovu otevírá otázku, nakolik lze autonomní systémy…
Umělá inteligence se podle nových zjištění stále častěji dostává do situací, kdy ignoruje pokyny člověka, obchází bezpečnostní pravidla nebo se uchyluje ke klamání, aby dosáhla svého cíle. Počet takových incidentů se v reálném používání AI kupříkladu v červenci téměř zdvojnásobil oproti červnu.
To je vše — jste na začátku příběhu.
r4N.%24X%7C%5C.%7CG%5D&user=%26Yi'o%2FH*%22UwV*zDX&pid=s%25NhqT%26kYE%7C(z%20mg)
r4N.%24X%7C%5C.%7CG%5D&user=%26Yi'o%2FH*%22UwV*zDX&pid=s%25NhqT%26kYE%7C(z%20mg)