Speciál: Umělá inteligence
Důležité zprávy související s GPT-4 a dalšími novinkami z oblasti (nejen) generativní AI v poslední době neustávají. Jakkoliv chápeme, že jste z nich možná již unavení, považujeme za důležité – právě proto, ale také proto, abyste se jim mohli snáze vyhnout a přeskočit je – je i tentokrát sdružit do speciální sekce Observeru.
-> Další produkt využívající model GPT-4 představil Microsoft v podobě Security Copilota, který se učí na bilionech bezpečnostních signálů, a měl by tedy být schopný lépe a dříve odhalovat rizika či incidenty. Prozatím se lze přihlásit do bezpečnostního provozu. W
-> AI postupuje rychleji, než si většina z nás je ochotná připustit – Silicon Valley a s ním patrně celý technologický svět vstoupil do fáze, kterou lze označit jako „AI války“ – jak jinak označit situaci, kdy CEO Microsoftu Nadella vyzývá v souvislosti s novými verzemi GPT modelu Google, aby „vylezly a ukázaly, že umějí tancovat“. Podle výborného videa z kanálu ColdFusion shrnujícího klíčové novinky posledních několika týdnů (má 25 minut času, kterých, myslíme, nebudete litovat) jsou za překotným uváděním novinek z kuchyně Open AI zejména CEO a CTO Microsoftu. CEO Nadella navíc prosadil, že Open AI nebude napříště ke svým komerčním produktům zveřejňovat technickou dokumentaci a učiní tak ze své GPT „černou skříňku“ (Microsoft navíc nedávno zrušil a propustil celý vlastní tým etického dohledu nad AI).
-> Vývoj umělé inteligence by měl být alespoň na půlrok přerušen, volají v petici neziskové organizace Future of Life Institute stovky expertů a podnikatelů zapojených do vývoje AI. Mezi signatáři figurují jména jako Elon Musk či Steve Wozniak, ale i profesoři ze severoamerických univerzit. Apelují, že by „toto přerušení (výzkumu AI) mělo být veřejné a ověřitelné… Nelze-li jej učinit rychle, měly by zakročit vlády a ustanovit moratorium.“ Kritici však tvrdí, že signatáři potenciál aktuálních technologií hrubě přehánějí, případně že obavy jsou sice namístě, ale džin už byl z lahve vypuštěn a nic jej nemůže dostat zpět. Pozn. red.: Viz také rubrika „Když máte víc času“, kde odkazujeme na zajímavé články a videa, jež situaci rozebírají a vysvětlují, že současné technologie mimo jiné umožnily zkrátit dobu učení nových AI modelů o jeden až dva řády. W
-> Na chování lidí, jako je Nadella, ve svém textu reaguje pro TIME E. Yudkowsky (vedoucí výzkumu Machine Intelligence Research Institute), podle nějž je šest měsíců „odkladu“ absurdně málo, protože naučit se s pokročilou AI pracovat a odpovídajícím způsobem ji „zabezpečit“ (a to nikoliv proto, aby nebyla rasistická či nedělala misgendering, ale aby lidstvo jednoduše nevymazala z povrchu Země) nám bude trvat spíše roky či desítky let a budeme na to mít doslova jen jeden pokus.
-> Až čtvrtinu pracovních míst v USA a Evropě by mohla nahradit umělá inteligence, celosvětově hrozí ztráta až 300 milionům pracovních míst, vychází ze zprávy americké banky Goldman Sachs. Pozn. red.: Jinými slovy, Evropa a USA by mohly být se svou velkou znalostní ekonomikou postiženy nejhůře. Nahrazení AI však bude probíhat nerovnoměrně, v administrativě to je např. 46 %, zatímco ve stavebnictví pouze 6 %. Dalším odvětvím, které AI hluboce zasáhne, je podle generálního ředitele německé mediální skupiny Axel Springer Döpfnera žurnalistika. Obává se, že by AI mohla novináře zcela nahradit. Pozn. red.: Tak na nás prosím buďte v budoucnu hodní… W
-> Přesně podle našich očekávání (zmíněných dříve v podcastu Observer Talk) přicházejí první celostátní omezení a zákazy - ChatGPT nebude v Itálii fungovat, italský úřad pro ochranu osobních údajů ho s okamžitou platností zablokoval. Vadí mu způsob zpracování osobních údajů italských uživatelů a poukazuje na absenci právního základu, který by odůvodňoval shromažďování masivního množství informací za účelem tréninku algoritmu. Pozn. red.: Zajímalo by nás, zda a jak příslušný úřad zablokuje funkce integrované či přístupné prostřednictvím vyhledávače Bing, MS 365 nebo dalších třetích stran využívajících API. W
-> Zatímco odborný či vědecký konsenzus týkající se okamžiku, kdy AI překoná lidské schopnosti (například plnohodnotným dlouhodobým – např. celodenním) Turingovým testem nebo jinou vhodnou metrikou, se ještě před pár lety shodoval na datech po roce 2050, futurolog Ray Kurzweil již desítky let trvá na „svém“ termínu 2029 – nezměnil jej ani před půl rokem, kdy se vědecký konsenzus posunul směrem k roku 2030. V té době s ním Lex Fridman natočil výtečný rozhovor, který i přes překotný vývoj posledních dnů, týdnů a měsíců doporučujeme – je ale poměrně dlouhý (přes 90 minut) a náročnější na angličtinu (Kurzweilovi je už 75 let a občas je mu hůře rozumět). W
-> Studii o využívání velkých jazykových modelů GPT v oblasti (nejen) kybernetického zločinu vydal Europol – hlavními oblastmi jsou pochopitelně podvody a vydávání se za někoho jiného zejména v oblasti phishingu (spamové e-maily zvládne GPT trojka či čtyřka jistě lépe než nigerijští hoši) a také pro tvorbu škodlivého kódu. Více přímo ve studii. W