Spoločnosť Microsoft zakazuje používanie svojej cloudovej služby Azure OpenAI Service, zameranej na generatívnu umelú inteligenciu, na účely rozpoznávania tvárí americkou políciou
Týmto krokom podnik reaguje na obavy spojené s uplatnením tejto technológie v praxi, ktoré pri jej nesprávnom použití môže prehlbovať diskrimináciu a viesť k nespravodlivému zaobchádzaniu.
Zákaz sa týka najmä nekontrolovaného používania technológie na rozoznávanie tvárí v reálnom čase – napríklad prostredníctvom mobilných alebo náhlavných kamier. Cieľom je zabrániť identifikovaniu ľudí v teréne bez ich vedomia a súhlasu. Microsoft si zároveň ponecháva priestor na poskytovanie podobných systémov pre stacionárne kamery v kontrolovaných priestoroch.
Prečítaj si aj toto: V USA zavádzajú povinné automatické brzdenie áut
Upravené podmienky ponechávajú priestor aj pre políciu mimo USA, nakoľko zákaz platí iba pre ich amerických kolegov. Microsoft tak reaguje na rastúce obavy z potenciálneho zneužitia výkonnej generatívnej umelej inteligencie a zdôrazňuje zodpovednosť pri aplikácii svojich technológií.
Rozhodnutie prichádza po nedávnej kritike spoločnosti Axon, výrobcu technologických produktov pre armádu a políciu. Axon uviedol na trh nový produkt využívajúci generatívny jazykový model GPT-4, schopný sumarizovať zvukové záznamy z policajných kamier. Kritika poukazuje na potenciálne zavádzanie konštruovaných faktov a na rasové predsudky, vnášané do systému dátami použitými pri trénovaní modelu.
