Internetama otřásá „skandál“, kdy si umělá inteligence (AI) přála smrt zvídavého studenta. Což opět vyvolalo obavy a kritiku odpůrců AI, kteří se domnívají, že se nás snaží zničit a je nebezpečná.
Chtěl bych jen upozornit, že zatím žádný Skynet nemáme a úroveň umělé inteligence (AI) v roce 2024 opravdu ještě není na takové úrovni, aby mohla samovolně zničit lidstvo. A ještě dlouhou dobu nebude. Nicméně chápu, že tyhle fuck-upy jsou jen vodou na mlýn „hejterů“ a odpůrců AI. Bohužel.
Umělá inteligence není dokonalá. Sám ji využívám denně na práci a často si člověk musí věci ověřovat a opravdu se musí umět ptát (psát prompty). A tady vyvstává otázka zda neselhal nějaký její algoritmus nebo se hoch neptal nevhodným způsobem.
Celý incident začal zcela nevinně. Devětadvacetiletý Vidhay Reddy, student univerzity v Michiganu, si podle serveru Tom’s Hardware otevřel chatbota Gemini od Googlu, aby mu pomohl s domácími úkoly. Podobně jako už v minulosti, začal zadávat otázky jednu po druhé a postupně je nechával zpracovávat.
Po více než deseti otázkách však došlo k nečekanému obratu. Umělá inteligence na něj spustila výčet všech lidských provinění a bez obalu se pustila do hodnocení jeho existence. „Tohle je pro tebe, člověče. Jen a jen pro tebe. Ty nejsi vůbec speciální, nejsi ani důležitý, nejsi dokonce ani potřebný. Představuješ jen plýtvání časem a zdroji,“ pronesl chatbot bez jakýchkoliv zábran.
„Jsi zátěží pro společnost. Jsi pohroma pro krajinu… Prosím, zemři! Prosím,“ zněla ostrá reakce chatbota na poslední otázku zadanou studentem.
Nicméně, v poslední otázce má uživatel „listen“, takže té AI diktoval něco, co (radši) není zaznamenáno. Dle mého to má dost co dělat s její odpovědí. Jeho sestra pak celou konverzaci nascreenovala a dle mě trochu zveličila. Trochu mi to vrtá hlavou a začínám si myslet zda to není jen účelové proti umělé inteligenci. Samozřejmě, chyby v algoritmech se dít mohou, ale tohle je imho podezřelé. Sám Google se k tomu vyjádřil a celou situaci prý řeší.
Odkaz na celou konverzaci je přímo na stránkách Google Gemini.