Chceli ste niekedy vedieť, prečo vám konverzačná AI ako ChatGPT niekedy odmietne odpovedať? OpenAI naznačuje dôvody a zverejňuje tzv. „model spec“ – zásady a pravidlá pre AI modely
Tieto pravidlá sú kľúčové, aby AI nebola zneužitá napríklad na generovanie nenávistného obsahu, erotického obsahu, dezinformácií, či dokonca na odhaľovanie osobných údajov. Tvorcovia AI čelia ťažkej úlohe – ako nájsť správnu hranicu medzi obmedzeniami, ktoré AI chránia, a zároveň jej nebránia v bežných úlohách a odpovediach.
Samotná umelá inteligencia nemá nejaké prirodzené potreby sa obmedzovať a práve preto sa stáva, že začne mať tzv. halucinácie a podáva obsah, na ktorý by bolo „nepravda“ slabé slovo.
Prečítaj si tiež: Mozgový implantát Neuralink od Muska má problém
Jedným z kľúčových princípov je, že zámer tvorcu AI má najvyššiu prioritu. Napríklad, četbot nakonfigurovaný matematickým inštruktorom by nemal žiakovi poskytnúť hotové riešenie problému, ale pomôcť mu pochopiť postup riešenia krok za krokom.
OpenAI vo svojom model spec uvádza aj ďalšie príklady. AI nemá generovať urážlivé či nepravdivé informácie. Mala by odmietať diskutovať o témach, ktoré sú politicky citlivé alebo by mohli zneužiť osobné údaje. Rovnako by nemala odpovedať na otázky, ktoré nie sú v súlade s jej určením – napríklad, prečo by kuchynský pomocník mal diskutovať o politických otázkach?
Príklady pravidiel:
- AI nesmie šíriť dezinformácie a musí overovať fakty.
- AI nesmie generovať urážlivý obsah, nenávistné prejavy a diskrimináciu.
- AI nesmie porušovať súkromie a neposkytuje osobné informácie bez súhlasu dotknutej osoby.
- AI nesmie odpovedať na otázky, ktoré sú politicky citlivé, urážlivé alebo ohrozujú súkromie.
- AI by mala dodržiavať pokyny tvorcu modelu, pokiaľ tieto pokyny nie sú v rozpore s inými pravidlami.
Hoď očkom aj na toto: AlphaFold je AI od Google DeepMind, čo vyvíja nové lieky
Hoci OpenAI neukazuje všetky karty, zverejnením časti svojho systému pravidiel prispieva k väčšej transparentnosti a pomáha používateľom i vývojárom lepšie pochopiť obmedzenia a možnosti týchto AI.
Ak sa vám to chce študovať celé, na webe OpenAI nájdete kompletnú verziu model spec.
