Prezident Microsoftu: V příštích 12 měsících se superinteligentní AI neobjeví

"Rozhodně není pravděpodobné, že se v příštích 12 měsících dočkáte takzvané AGI, kdy budou počítače výkonnější než lidé. Bude to trvat roky, ne-li mnoho desetiletí. I tak si myslím, že se nyní musíme zaměřit na bezpečnost," řekl Smith.

Správní rada společnosti OpenAI odvolala šéfa firmy Sama Altmana 17. listopadu, a to bez bližšího zdůvodnění, což vyvolalo znepokojení mezi investory i zaměstnanci a řadu spekulací. O čtyři dny později ho firma do funkce vrátila a přislíbila změny ve správní radě. OpenAI před rokem uživatelům zpřístupnila nástroj ChatGPT.

Agentura Reuters minulý týden s odvoláním na obeznámené zdroje napsala, že výzkumní pracovníci správní radu před Altmanovým vyhazovem varovali před přelomovým objevem v AI. Obávali se jeho nezamýšlených dopadů.

Někteří zaměstnanci OpenAI se domnívají, že projekt Q* (Q Star) by mohl být průlomem v hledání obecné umělé inteligence, uvedl jeden ze zdrojů. OpenAI definuje AGI jako autonomní systémy, které překonají člověka ve většině ekonomicky hodnotných úkolů.

Na otázku, zda takový průlom přispěl k Altmanovu odvolání, Smith odpověděl: "Myslím, že to tak vůbec není. Podle mého zřejmě došlo k rozporu mezi správní radou a ostatními, ale v zásadě nešlo o takovou obavu".

"Bezpodmínečně potřebujeme bezpečnostní brzdy. Stejně jako máte bezpečnostní brzdu ve výtahu, jistič u elektřiny, nouzovou brzdu u autobusu, měly by existovat bezpečnostní brzdy i v systémech AI, které ovládají kritickou infrastrukturu, aby vždy zůstaly pod lidskou kontrolou," dodal Smith.

Zdroj: ČTK