🍪 Máš rád sladké?

Zbierame len nevyhnutné cookies. Ak nám to povolíš, budeme zbierať aj tie analytické na zlepšenie tvojho zážitku s našimi službami. Ochrana osobných údajov

pravidlá pre AI
TechGuru

Ako fungujú pravidlá pre AI? OpenAI poodhaľuje tajomstvá svojich modelov

Peter Vnuk
Peter Vnuk

Chceli ste niekedy vedieť, prečo vám konverzačná AI ako ChatGPT niekedy odmietne odpovedať? OpenAI naznačuje dôvody a zverejňuje tzv. „model spec“ – zásady a pravidlá pre AI modely

Tieto pravidlá sú kľúčové, aby AI nebola zneužitá napríklad na generovanie nenávistného obsahu, erotického obsahu, dezinformácií, či dokonca na odhaľovanie osobných údajov. Tvorcovia AI čelia ťažkej úlohe – ako nájsť správnu hranicu medzi obmedzeniami, ktoré AI chránia, a zároveň jej nebránia v bežných úlohách a odpovediach.

Samotná umelá inteligencia nemá nejaké prirodzené potreby sa obmedzovať a práve preto sa stáva, že začne mať tzv. halucinácie a podáva obsah, na ktorý by bolo „nepravda“ slabé slovo.


Prečítaj si tiež: Mozgový implantát Neuralink od Muska má problém


Jedným z kľúčových princípov je, že zámer tvorcu AI má najvyššiu prioritu. Napríklad, četbot nakonfigurovaný matematickým inštruktorom by nemal žiakovi poskytnúť hotové riešenie problému, ale pomôcť mu pochopiť postup riešenia krok za krokom.

OpenAI vo svojom model spec uvádza aj ďalšie príklady. AI nemá generovať urážlivé či nepravdivé informácie. Mala by odmietať diskutovať o témach, ktoré sú politicky citlivé alebo by mohli zneužiť osobné údaje. Rovnako by nemala odpovedať na otázky, ktoré nie sú v súlade s jej určením – napríklad, prečo by kuchynský pomocník mal diskutovať o politických otázkach?

Príklady pravidiel:

  • AI nesmie šíriť dezinformácie a musí overovať fakty.
  • AI nesmie generovať urážlivý obsah, nenávistné prejavy a diskrimináciu.
  • AI nesmie porušovať súkromie a neposkytuje osobné informácie bez súhlasu dotknutej osoby.
  • AI nesmie odpovedať na otázky, ktoré sú politicky citlivé, urážlivé alebo ohrozujú súkromie.
  • AI by mala dodržiavať pokyny tvorcu modelu, pokiaľ tieto pokyny nie sú v rozpore s inými pravidlami.

Hoď očkom aj na toto: AlphaFold je AI od Google DeepMind, čo vyvíja nové lieky


Hoci OpenAI neukazuje všetky karty, zverejnením časti svojho systému pravidiel prispieva k väčšej transparentnosti a pomáha používateľom i vývojárom lepšie pochopiť obmedzenia a možnosti týchto AI.

Ak sa vám to chce študovať celé, na webe OpenAI nájdete kompletnú verziu model spec.


Staň sa súčasťou aktívnej komunity TechGuru SK/CZ na Facebooku a na Instagrame.

Nájdeš nás aj na YouTube


Pokračuj v čítaní