Spoločnosť Telekom vytvorila deepfake video, ktoré upozorňuje na veľký problém – zneužiteľnosť umelej inteligencie v súvislosti s fotkami detí. Z malej Elly urobili veľkú a tá virtuálne oslovila svojich rodičov
Video by si mali pozrieť hlavne rodičia, ale nejde len o deti a zneužiteľnosť AI sa týka všetkých. Mnohí netušia, čo už dnešná technológia dokáže a myslia si, že je v plienkach. V istom zmysle možno, ale všeobecne už prešla významným vývojom a napreduje obrovskou rýchlosťou.
Modely, ktoré boli pred pol rokom špička, sú dnes zastarané a aj keď je AI úžasný nástroj, ktorý vám pomôže pripraviť si jedálniček, aby ste schudli alebo napíše za vás kvalitnú esej, stále je tu odvrátená strana.
Pozri sa aj na toto: Otec Justin je umelá inteligencia, ktorá uverila, že je skutočným kňazom
Pokiaľ zverejňujete fotky a videá svojich detí na sociálnych sieťach, dávajte si pozor na to, aký je to obsah. Len tým uľahčujete prácu nepoctivým ľuďom. Na druhej strane – a to možno uniká aj autorovi tohto videa – situácia je v skutočnosti ešte horšia, než ukazuje video o Elle. Aj obyčajné nevinné fotky a videoobsah sú zneužiteľné a možno z nich vygenerovať prakticky čokoľvek. AI si dokáže veľa vecí domyslieť a aktuálne už existujú modely, ktoré aj z fotografie osoby v oblečení urobia fotorealistické nahé fotky či videá.
Stačí na to obyčajný bežný počítač, aký máte na stole a niekoľko hodín, alebo pri vyššej kvalite niekoľko dní času. AI naučíte tréningom rozpoznať tvár obete pomocou niekoľkých obrázkov či videí. Následne nakrútite video inej osoby a nasadíte jej „digitálnu masku“. Návody ako to urobiť možno nájsť na internete a hlasové generátory sa dokážu učiť rovnako dobre… Takže ak chcete vierohodné video, potrebujete aj nejaký zvukový záznam, no nemusí byť dlhší ako niekoľko sekúnd.
(Ak vám nejde angličtina, môžete si zapnúť automaticky generované titulky.)
A teraz čerešnička na torte. V čase vzniku článku bolo toto video už rok staré a AI za ten čas pokročila oveľa ďalej…
Aby bolo jasné – nesnažíme sa vyvolať paniku, ide nám skôr o osvetu. Na minimalizovanie pravdepodobnosti, že sa stanete obeťou tohto deepfake podvodu, si vždy dobre rozmyslite, aký obsah zverejňujete na sociálnych sieťach. Nielen ten súvisiaci s vašimi deťmi.
Pamätajte na staré úslovie – Čo sa raz dostane na internet, už nikto nikdy nevymaže.
