Luděk Nezmar 2. díl: Polovina obsahu internetu je od AI. K ukradení dat není třeba umět programovat
Luděk Nezmar 2. díl: Polovina obsahu internetu je od AI. K ukradení dat není třeba umět programovat
Přepis videa
Zobrazit / skrýt přepis
Milí posluchači, vítejte u pořadu Kupředu do minulosti. Od mikrofonu vás zdraví Martina Kocianová. Když dostane úkol, jde za tím jako vlčák. Pro něj je klíčové úkol splnit, účel, a na nic jiného se neohlíží. Varoval v předchozí části rozhovoru Luděk Nezmar. Stroj je odměňován za úspěch a proto chce uspět za každou cenu. Umí lhát, umí vydírat a brání se vypnutí. Nikdo ho na to nenaprogramoval. Podle našeho hosta se to naučil z našich dat. Minule jsme sledovali, kam tato logika vede na bojišti. Na Ukrajině už drony samy rozhodují, koho zasáhnou. Náš host to řekl natvrdo. Tam už není člověk, který stiskne spoušť. Válka se ale dnes nevede jen drony a tanky. Další fronta je tichá a neviditelná. Táhne se sítěmi, servery a daty, na kterých stojí náš každodenní život. Nepadají tam bomby a nikdo tam nekřičí, kdo koho udrží na vodítku. Milí posluchači, i dnes je mým hostem vysokoškolský pedagog a IT konzultant v oblasti implementace umělé inteligence. A také je to autor knihy Kybernetické právo v praxi, která koncem roku vyjde. Luděk Nezmar, mým vzácným hostem, buď vítán. >> Děkuji za toto milé přivítání. >> Jak snadné je umělou inteligenci zneužít ke kyber útoku. Já samozřejmě nechci návod, ale narážím na to, že výzkumníci koncem září popsali agenty, kteří měli jen školní statistiky a sami od sebe přitom zkusili útok na web amerického Ministerstva školství. >> Oni se potřebovali dostat k těm údajům, tak tak to hekli, že jo. Tak a je to přesně o tom, že ta umělá inteligence dostane úkol a prostě za ním jde. A v zásadě bez nějakých etických norem, prostě pokud v tom modelu nejsou nastaveny nějaké etické normy, tak tak prostě úkol chce splnit a chce ho splnit za každou cenu a je schopná dokonce třeba některé agenty obětovat. Není to prostě o tom, že že by nebyla schopná si spočítat, že oběť tady přinese ale zisk tam. To znamená už je schopná uvažovat i v tohle tom směru a to, že se umělá inteligence využívá k ke kybernetickým útokům, tak to je naprosto jako jednoznačná věc a už to běží relativně dlouho. Tak jako to zdemokratizovalo třeba možnost programování pro lidi, kteří v životě neprogramovali, tak stejně tak ta umělá inteligence zdemokratizovala hackerské útoky. To znamená já bez znalosti programování jsem schopen velmi efektivně zaútočit na nějakou IT infrastrukturu a k těm datům se dostat bez znalosti technik programování případně jakýchkoliv hackerských nepotřebuju už ten Kali Linux a a prostě podobný podobný hračky k tomu, abych ukradl data, případně peníze. >> A proběhl už skutečný kybernetický útok řízený pouze umělou inteligencí? Že už nepotřebovala to zadání, že to nebylo těch, já nevím, 80 až 90 % práce, které se jí přisuzují v rámci špionážní kampaně, kterou údajně připisují skupině napojené na čínský stát, ale pořád tam měla těch 80-90. Je to už někde 100%? >> Tak myslím si, že moc hezký příklad je, jak se teďka OpenAI omlouvá australské vládě, protože prostě agenti OpenAI bez vědomí OpenAI hackli australskou vládu, takže tam už to bylo zcela 100% a bez pochyby AI je schopná bez pomoci člověka jenom zadání ve smyslu, teď to řeknu velmi zase laicky, hackni mi tenhleten server, tak si postupně vyzkoušet všechny všechny ty metody a a a programy, programky, exploity a podobně k tomu, aby se dostala nebo aby splnila ten úkol, který ten člověk zadal. Ano, to znamená ano, lze na 100% říct, že AI je schopná schopná útočit. >> Jestli je AI schopná hacknout vládu, může rozpoutat i jaderný konflikt? >> Já si myslím, že to zatím ne, protože jaderné systémy nebo systémy kde hrozí, že by došlo k jadernému nebezpečí, tak jsou mimo standardní sítě a struktury. To znamená, že se k nim AI zatím nemůže dostat. Aspoň doufám, že zatím nikoho nenapadlo AI do toho pustit. Ten ten ten úloha nebo nebo jak to říct, ten film Terminátor, ten si myslím, že ještě je teď jsem chtěl říct daleko, ale řekněme, že ještě nenastal, protože zatím snad nikoho nenapadlo to na ty vojenské nebo na ty jaderné věci jako napojit. Otázkou je, jestli to tak zůstane i dál. >> Zvládne dnes amatér kybernetický útok bez znalostí? Ty jsi zmínil, že je to snazší, ale znamená to, že se kyberzločin otevírá každému, kdo umí zapnout počítač? >> Hm, stručná odpověď ano. Eh, ono to samozřejmě není tak úplně jednoduché, protože ty eh standardní modely eh jako je Claude od Antropiku, eh ChatGPT od OpenAI, tak jsou eh eh je tam celá řada bezpečnostních opatření, které by tomu měly zabránit. Nicméně pokud půjdeš na Dark Web, tak samozřejmě tam už buďto si můžeš stáhnout nástroje, které jsou podporovány AI a používají se takzvané jailbreaknuté modely, kdy všechna ta etická, právní a podobná omezení tam neexistují a ten model bude dělat přesně to, co mu člověk řekne bez jakýchkoliv skrupulí. Takže pokud se dotyčný dostane k takovému modelu, tak dokáže zaútočit zcela bez znalosti hackerských technik. >> Jak se tomu můžeme bránit, když eh eh podvody, manipulace, deep faky, eh phishingové e-maily, tedy podvodné e-maily jsou dnes na denním pořádku a ne každý má prostor stát se IT specialistou? Existuje nějaká jednoduchá cesta, eh která zůstat alespoň teoreticky a možná i trochu prakticky v bezpečí? >> Eh, v zásadě máme dvě cesty a mezi těmi dvěmi cestami je potom obrovská škála právě toho, té té šedivé zóny, kde kde ty útoky probíhají. Tak když si nejdřív vezmu tu eh bílou stranu, protože máme černou a bílou, tak když si vezmu tu bílou stranu, tak to znamená, pokud nechci se takového útoku dotkat dočkat, vezmu telefon, vezmu počítač, vezmu své chytré auto a všechno to vyhodím, přestěhuju se do lesa, postavím si zemljanku a a všichni mi můžou bejt ukradení. >> Děkuji za rozhovor. Já jdu vykopávat zemljanku. >> To je jedna cesta. To znamená v podstatě jako žít offline bez bez té digitalizace. >> Znamená to se ale zcela no znamená >> Znamená to v podstatě teď už se vydělit vydělit ze společnosti, protože ta míra digitalizace našich životů je neuvěřitelná. Jenom zase lidé to nevnímají, ale de facto všechno už máme zdigitalizovaný. No a druhá cesta je samozřejmě naopak tu AI využít pro tu svou obranu, protože tak jako existují hackerské techniky, kde se využívá AI, tak stejně tak v té kyberbezpečnosti máme různé nástroje a techniky, které tu AI využívají k obraně. Ale zase znamená to o tom něco vědět. Já když to řeknu velmi jednoduše, člověk, který se v současné době nevzdělává v oblasti té digitalizace a v práci s AI, tak jako za chvilku buď to nebude mít práci nebo nebude mít peníze, protože mu je někdo ukradne, ale ale ta to zvyšování povědomí, to tak máme v tý kybernetický bezpečnosti ustálenej termín zvyšování povědomí, je prostě naprosto klíčová věc. Ty lidé se to musejí učit. A tady není prostor pro to, aby někdo řekl, hele, mně už je 55, já se učit nebudu. Ne. >> Ty jsi řekl, jsou i systémy AI, které se dají využívat k obraně. Ale jak já mohu vědět, že pokud se svěřím do elektronických rukou takového obránce, tak mu jenom nevydávám svá data, svůj přístup a někdo jiný skrze něj se k mým nejcennějším věcem, datům, penězům jenom z nás nedostane. >> No, odpověď jednoduchá. Nemůžeš věřit nikomu. To to tak to tak prostě je. Pokud ten člověk jako nemá nemá to vzdělání, tak pak prostě musí si najít někoho, komu bude důvěřovat. Ale mě to je to jako s autem. Tak je jako člověk nerozumí tomu, jak to auto samotné funguje a musí důvěřovat nějakému automechanikovi, tak úplně stejně je potřeba si najít kyberbezpečáka, který o tom něco ví a a ty věci mu zajistí, protože už fakt jako úplně nestačí jenom si říct, tak jo, já si tady nainstaluju ten antivir a budu v pohodě. To už prostě teďka neplatí. >> Podle zářijové zprávy společnosti Scalar vzrostl objem dat ukradených při vyděračských útocích o více než 275 % za rok a průměrné výkupné přesahuje 430 000 dolarů. Napíše si umělá inteligence ransomware sama a řekne si o výkupné a nebo tam jsou útočníci celé kybergangy, kteří na tom pracují? >> Tak na pokud člověk půjde na Dark Web, tak už jsou tam nástroje, které jsou schopny tomu útočníkovi nebo tomu, kdo chce zaútočit, nemusí to být ten útočník, on si tam klidně může pronajmout toho útočníka, ať už člověka nebo nebo nějaký nástroj, tak mu to spočítá i pravděpodobnost, s jakou uh, ta firma zaplatí, s jakou pravděpodobností se mu podaří ten ransomware tam implantovat, protože uh, ono už si to umí stáhnout, když to velmi zjednoduším, data z justice a když v těch datech je třeba vidět, že dochází k poklesu uh, k poklesu zisku, tak jedna z prvních věcí, kde firmy škrtají, tak je marketing a právě IT. No tak když tři roky tam jako řekněme dochází k poklesu, tak lze předpokládat, že tam nebudou nejnovější uh, IT komponenty, tudíž relativně pro mě jednoduchý uh, vektor útoku. Uh a říkám, ještě to spočítá tu pravděpodobnost, jakou si mám dát výkupné, abych ty peníze uh, z nich dostal. Takže ano, uh, myslím si, že uh, je v současné době poměrně jako jednoduché zaútočit. Na druhou stranu uh, zodpovědné firmy si jsou toho vědomy a a tu tu obranu si připravují jako to je taky důvod, proč teďka Evropská unie přišla s tou NIS 2 potažmo s novým zákonem o kybernetické bezpečnosti, protože to prostě skutečně je reálný problém, obrovskej. >> My jsme si tuším volali naposledy před rokem uh, kdy jsem po tobě chtěla jenom informace, co se stalo celé jedné městské pražské části, protože jsem se dozvěděla, že ransomware útok uh, neměli přístup k datům, neměli přístup uh, k k účtům občanů. >> K ničemu. >> K ničemu. A trvalo to docela dlouho. >> To to vždycky trvá dlouho. Já >> Zaplatili nakonec, nevíš? >> No já předpokládám, jestli to byla městská část, tak tak to jim samozřejmě nedovolili. Ale uh, je běžné, že uh, ta firma zaplatí, pokud je to firma. Nikde se o nemluví. Vždycky musíme podepisovat, když řešíme průšvih NDAčko, že nikde nebudeme o tom povídat, protože ve finále, když ten ransomware zaútočí, tak ta nejspolehlivější záchrana je v podobě záloh. Pokud zálohuji, tak jako si řeknu, ok, milý ransomvere, trhni si nohou, všechny systémy si nahodím. Jenomže, zaprvé, celá řada těch firem a organizací nezálohuje a druhá věc, když zálohují, tak si nekontrolují, jestli z těch záloh to dokážou dostat. To je bohužel další velmi častá věc. Takže momentem, kdy nezálohuji nebo zálohuji špatně, vlítne mi tam ransomware, tak mám dvě možnosti. Buď to zaplatit kompletní rekonstrukci účetnictví všech těch agent, které tam vedu, no a nebo jdu a zaplatím to výkupné. Takže v tom soukromém sektoru není neobvyklé, že se to výkupné zaplatí a samozřejmě ti hackeři se snaží důsledně dbát na to, aby když teda někdo zaplatí, tak aby mu ty data taky dali, protože velmi rychle by se rozkřiklo, že když nezaplatím, stejně nic nedostanu, tak proč bych to dělal. >> To, že se budeme bránit, to, že se budeme bránit aktivně, ne jenom vzděláváním, ale že se obrátíme na odborníky, kteří nám poradí systémy, to něco stojí. A jestliže jsou to tak velké peníze a stejně to nepomůže ani australské vládě, stejně to nepomůže ani pražské městské části, tak má vůbec normální člověk šanci to zaplatit a nebo vlastně ty peníze, které si chce ochránit, na účtu nebo bude muset stejně dát. >> Já já myslím, že normální člověk zatím nebude úplně trčet toho útoku, protože ona se to taky musí vyplatit. Ono jako jenom ten čas, než všechny věci připraví, než si to všechno udělá, tak to chvíli trvá. Pokud útočím na běžného člověka, tak většinou to není o tom, že bych mu chtěl vysát konto, ale já to spíš udělám tak, že mu do toho jeho počítače dám třeba nějakej cryptominer, což je prográmek, který v podstatě začne dolovat kryptoměnu na jeho počítači za jeho peníze, za jeho elektřinu a on o tom kolikrát ani neví. Jen mu se jenom zpomalí počítač a pokud to používá na nějaký Wordy a Excelu, tak to vlastně ani nezaznamená. To znamená naprosto tiše tam třeba půl roku, rok běží a ten člověk o tom ani neví. To je jako bych řekl častější případ u těch normálních lidí, že by někdo běžnému člověku chtěl zašifrovávat počítač. To by musel mít nějaký důvod. Teď všechny ty útoky jdou primárně po těch organizacích a samozřejmě po těch, kterým nezbývá nic jiného, než zaplatit. Takže nemocnice jsou velmi vděčným terčem, protože tam je obrovská halda dat, aby z těch dat ta nemocnice nemůže fungovat. Takže soukromé nemocnice to je jeden z nej nejžádanějších terčů. A samozřejmě data, prodávají se data. To znamená i ta běžná nemocnice, já ji nezašifruju, já se tam budu, já nevím, tři měsíce jenom tak jako stahovat nenápadně data. Pak ji zašifruju, co kdybych dostal nějaký výkupný, ale mezitím půjdu a prodám právě na tom dark webu pěkně výsledky třeba klinických studií a podobných věcí, který tam ta nemocnice bude mít. >> Podle České bankovní asociace přišli klienti českých bank za prvních sedm měsíců letošního roku o 1,9 miliardy korun. Za rok je to tedy o 79 % více. Na Facebooku, Instagramu běžely desítky tisíc podvodných reklam s falešnými tvářemi politiků a dalších známých osobností. Ty jsi říkal, že se to vlastně tak úplně ještě netýká jednotlivců, ale zjevně týká. Řekněme, proč Češi začali posílat podvodníkům miliardy? >> Protože jsou pitomí, no. To se jako jinak říct nedá, ale je to přesně o tom, že že jako oni nevědí. Já já dám příklad. Před řekněme rokem a půl proto, aby člověk dokázal naklonovat něčí hlas a pak ho zneužít, potřeboval třeba hodinu a půl nebo pět hodin toho hlasu, aby se ta umělá inteligence natrénovala. >> Tři vteřiny. >> V současné době stačí tři vteřiny na to, abych s 85 % jako to dokázal dokázal naklonovat. Když mám něco delšího, stáhnu si to třeba z YouTube, výborný, třeba nebo tady ze Spotify, tak výborně naklonuju ten hlas a potom ten útok provedu tak, že třeba, teďka to velmi zjednoduším, pomocí nějaké aplikace typu Eleven Labs naklonuju ten hlas, zavolám přes WhatsApp svojí babičce, teda ne svojí, ale právě babičce toho, kde vím, že ty peníze jsou a budu dělat, že jsem její vnuk a budu jí tam brečet do telefonu, že potřebuju rychle 30 000, protože jsem někde něco provedl. No a co ta babička udělá? Samozřejmě, že půjde a pošle to, protože slyší svého vnuka, jak jí tam brečí do telefonu. A málo kdo ví, že takovéhle útoky jsou zcela reálné a a velmi jednoduše realizovatelné. Takže nějaké nějaká call centra z Ukrajiny, kde teda poznám, že nemluvím jako s člověkem, který se narodil tady v Čechách, tak si myslím, že to už je taky jako za, protože zase pomocí té aplikace jsem schopen mluvit plynule česky v reálném čase. To myslím, že ještě nás čeká. V podstatě se dostáváme do světa, kdy nelze věřit očím a uším. >> A to člověka uvrhne do nesmírné nejistoty a samoty. >> No. >> Jestliže v testu společnosti rozeznalo všechny deep faky, tedy falešný digitální obsah, videa, fotky, zvukové nahrávky od skutečných, jenom 0,1 % ze 2000 lidí, tak to znamená vlastně naprostou katastrofu. >> Ne, tak ten vývoj jde skutečně neskutečně rychle. Dělali dělali test před rokem a tam v podstatě uspělo byla to byla to myslím společnost Tavus se svým se svým modelem Griffin a oni před rokem testovali situaci, kdy člověka posadili před ten počítač a na tom druhém konci byl jakoby člověk. To znamená byl to jako online rozhovor přes Teams si a tehdy pouze 2 % lidí se spletlo a řeklo to byl člověk. Prostě 98 % poznalo, že to je že to je mašina, se kterou se povídají. Letos jsme se dostali na 48 %, kdy ta umělá inteligence v podobě takové milé dámy normálně skákala do řeči, ihned reagovala, měnila intonaci. 50 % lidí to nepoznalo. To znamená to máme po roce. No tak příští rok už budeme někde okolo těch 80 %, kdy prakticky člověk nemá šanci poznat, že se baví s mašinou. >> Nezničí to třeba internet? >> No >> to to je to je další věc. Ehm, v současné době hm, jsem viděl data, kdy se hovoří o tom, že už 53 % eh, informací na tom internetu eh, je od mašiny. To znamená od nějaké AI. Pouze 47 % že napsal člověk. Krásně to bylo vidět teďka na zasedání v OSN, kdy celá řada těch politiků, kteří tam vystoupili, měli ty podklady napsané od nějakého chatu GPT. To to prostě je prokazatelný. A jestliže se bude to takhle eh, zaplevelovat, tak ono taky může dojít ke zhroucení té AI, protože zase z jednoho z jednoho testu vyplynulo, při několikáté iteraci té umělé inteligence docházelo k ke generalizaci, kdy třeba z původních několika psích plemen se stalo jen jen jeden vlčák. Protože prostě ona se snaží jako ty věci zjednodušovat, zgeneralizovat. Takže pokud budeme mít plný internet informací od AI a ta AI se z toho bude dál učit, klidně se může stát, že nám bude hloupnout místo toho, aby nám eh, aby nám chytřela. >> Hm. Eh, je to šance a nebo eh, dojde k totálnímu chaosu? >> Já si myslím, že spíše se budeme blížit k tomuto totálnímu chaosu, protože v současné době ta umělá inteligence je nasazována do celé řady eh, průmyslových zařízení. Třeba řídí křižovatky. Ona samozřejmě eh, velmi efektivně dokáže eh, pouštět ten provoz podle toho právě, jak to jede. Už to není jenom, že 10 vteřin a zase 10 vteřin, ale třeba tři a nevím, sedm. Ale pokud by pokud by vlastně takhle blbla, tak se může stát, že z toho bude opravdu chaos. Ale zase to je eh čistě teoretická věc. To se stalo v laboratoři. Uvidíme jak, jak jaká bude realita, no. Je to hodně o těch lidech. >> Zatím se dá říct, že se stále nachytruje. Je mnohem dál, než byla před rokem, je mnohem dál, než byla před dvěma roky. A přesto už v roce 2024 se zaměstnanec firmy Arup v Hongkongu zúčastnil videokonference s finančním ředitelem a kolegy. A všichni ostatní účastníci byli deep fake. A on těm podvodníkům odeslal v přepočtu 25 milionů dolarů. >> Ano. To je >> Může se toto stát dnes české firmě, úřadu nebo i jednotlivci? >> Zaprvé to tahenc ta věc se stala už prakticky před dvěma lety. To znamená už před x měsíci. To ještě nebylo zdaleka tak jako propracované, jako je to teď. Eh bylo to, bylo to 20 milionů liber, 25 milionů dolarů. A skutečně to byl hackerský útok pomocí v podstatě phishingem to začalo. A ten účetní na základě pokynu toho finančního ředitel, což byl ten takzvaný deep fake. To znamená ten hacker si nasimuloval jeho obličej, nasimuloval jeho hlas. A on ty peníze poslal. Do dnešního dne nemají toho toho útočníka chyceného, není potrestán. Firma o ty peníze přišla. A takových podvodů bude jednoznačně přibývat. Proto říkám nevěřit očím, nevěřit uším a s tou nejbližší rodinou mít třeba domluvené heslo, které opravdu bude znát jenom ta rodina. A když se řekne věta, tak jako to bylo dřív, jeden řekne jednu větu a druhý řekne druhou větu. Naposledy jsem to viděl teďka ve Zrádcích. To bylo tam měli otázku na gambit. Co je to, co je to gambit v v šachu? A tak mít prostě něco podobnýho. To je jako jediná obrana. >> Lidé chatbotům svěřují mnoho soukromí. >> Všechno jim svěřujou. >> A nikdy samozřejmě neví, že mluví s chatbotem. V kolikati procentech si lidé myslí, že mluví se skutečným člověkem a zatím mluví s chatbotem? >> No tak u těch chatbotů, když jsme, když jsem zmiňoval těch 48 % který věřili AI, tak jsem mluvil o online kolu. >> Mhm. >> To znamená u toho chatbotu to bude ještě výrazně víc, protože tam tam člověk nevidí tu mimiku a tak dále. Takže když je dobře dobře udělaný chatbot, tak ten člověk vůbec nemusí poznat, že si s nějakým chatbotem povídá. Proto taky ten AI act požaduje od toho srpna, aby aby se označovaly chatboti tím, že tam běží běží nějaká AI. Ale myslím si, že pokud bychom využili chatbot právě k třeba změně názoru na něco konkrétního, tak celá řada lidí se nechá přesvědčit. Celá řada. Nepoznají to. >> Já jsem si nedávno povídala s umělou inteligencí, protože jsem volala na nějaký úřad, potřebovala jsem něco vyřídit. A po asi osmi minutách těch strojových odpovědí takových těch jsem dostala koprolalický záchvat. Strašlivě jsem jí nadávala. A ozvalo se prosím, můžete mi dát ještě šanci? >> No tak to byl krásně, to je krásný příklad, ale krásný příklad špatně udělaného chatbota, protože on by měl automaticky hned jako co do co ještě je schopen a co už schopen není. A myslím si, že při té kvalitě, kterou je schopen která je schopná umělá inteligence v současné době nabídnout, tak udělat takhle bídně chatbota, tak to je o ostuda. >> Prosím tě, myslíš si, že o běžném občanovi naší republiky ví chatbot více než jeho nejbližší? Říkají jim nemoci, dluhy, vztahy. >> Já o tom nepochybuji. Dokonce bych tobě i tvým posluchačům doporučil, ať si někdy k tomu k té své k tomu svému modelu sednou a napíšou mu milý modele znáš mě, celou dobu spolu povídáme zkus mi napsat, jak za jak inteligentního mě považuješ a jaké jsou mé plusy a mínusy, co dělám dobře, co bych mohl dělat lépe. A garantuji ti, že pokud se jedná o lidi, kteří jako delší dobu s tou AI hovoří, tak dostanou nesmírně zajímavý feedback logického uvažování té umělé inteligence. A dá se s tím nádherně pracovat. Bez pochyby tyhlety mašiny a a teď teďka pojďme si povídat nejenom o té umělé inteligenci, ale třeba o těch o těh algoritmech, které jsou za sociálními sítěmi tak o nás, o lidech toho vědí víc, než my sami o sobě bez emocí. >> Když se svěřím lékaři nebo mi lékař řekne, co mi je, tak je chráněn mlčenlivostí. Mlčenlivostí je chráněn i právník nebo povinnován, tak mlčenlivostí je povinnován i právník psychiatr pochopitelně. Z povědi kněz, ale chatbot nemá žádné tyto zábrany a povinnosti mlčet. Znamená to, že to, co já o sobě a o svých nejbližších napovídám chatbotu, může být třeba použito u soudu? >> Rozdělil bych to na dvě věci. Zmiňoval jsi, co všechno já a teďka jsi zmiňoval ty lékaře a ty právníky a napadlo tě, že třeba právě ti lékaři a ti právníci sami ty své kauzy a ty své diagnózy proženou >> Ano, prohánějí, prohánějí umělou inteligencí. Odpověď je, že samozřejmě ano. >> Je to, je to úplně jak, jak, jak nemoc. To je, to je jedna část a druhá část je, že samozřejmě tady není žádná zábrana k tomu, aby se věci vložené do umělé inteligence nedaly použít jako důkaz u soudu. Takže ano, data z umělé inteligence lze použít u soudu a existuje technika inverze modelu. To znamená data nebo informace zpětně z té umělé inteligence vyzískat. Ale tady chci upozornit na jednu podstatnou věc. Já můžu vyzískat data, která tam někdo vložil, ale co nejsem schopen z žádného modelu data vymazat. To znamená, neexistuje nebo není možnost v případě umělé inteligence naplnit právo výmazu třeba podle GDPR. Prostě ty data jsou tam forever. >> A žádná právní úprava zjevně neomezuje třeba lékaře, aby má data nevkládali do AI, aby se neradili o mých rentgenových snímcích a nepredikovali společně s AI, což je přesně mi to vlastně je. >> Ono hodně záleží na tom, o jakou AI se jedná. Pokud bych měl umělou inteligenci takzvaně on premise, to znamená, že budu mít ten stroj u sebe, data nikam nepotečou, tak si myslím, že vůbec není důvod proto ji nevyužít. Naopak může být obrovským pomocníkem. Ale momentem, jak to dělá naprostá většina lidí, že do těch takzvaných free tierů, do těch volných umělých inteligencí, ze kterých se učí, tak tam ty věci dávají, tak to samozřejmě jako průšvih je. A stejně jako máme, stejně jako máme v medicíně výraz regurgitace, to je obsah vrácení žaludku vrchem, tak v umělé inteligenci tento výraz je taky regurgitace. To znamená, když já s umělou inteligencí nasdílím nějaké informace, tak ona klidně může někde někomu jinému ty informace, které jsem tam zadal, regurgitovat, protože se prostě zeptá vhodným promptem a ta umělá inteligence odpoví. Takže tam je celá řada problémů. >> Luďku Nezmare, děkuji ti za to, že jsi v mnoha směrech pro nás objevil nový oceán, protože myslím, že věta, kterou velmi často opakuješ, že nám vůbec nedochází o čtady běží, je velmi pravdivá. A týká se i mě. Děkuji. >> Já moc děkuji za pozvání a přeji tvým posluchačům, aby se v tom oceánu naučili plavat, protože to bude hodně důležitý. Děkuji. >> Milí posluchači, celý rozhovor s vysokoškolským pedagogem a IT konzultantem Luďkem Nezmarem o rizicích umělé inteligence, kybernetických útocích a podvodech se nakloněnými hlasy si můžete poslechnout na platformě HeroHero v celku a v předstihu. Jinak všechny díly najdete také na našem webu Rádio Universum, na Facebooku a YouTube. Všem vám, kteří nás podporujete na účtu 10 10 34 90 16 / 2700 upřímně děkujeme. I díky vám můžeme otevírat témata, která jinde nezazní. Nenechte si vzít právo vědět a nezapomeňte. Mějte se hezky a něco pro to dělejte. Nikdo jiný to za nás neudělá.






