Aký je četbot Claude?

<p><strong>Umelá inteligencia je v súčasnosti až príliš často skloňované slovné spojenie a neraz ide aj o marketing. Dnešné systémy však stále nie sú <a href="https://wp.techguru.sk/agi/" target="_blank" rel="noopener">všeobecnou umelou inteligenciou (AGI)</a>. Najznámejšie generatívne AI služby stoja prevažne na veľkých jazykových modeloch (LLM), ktoré sa učia vzory z obrovského množstva tréningových dát. Dokážu vytvárať nový obsah, no všeobecnú inteligenciu porovnateľnú s človekom zatiaľ nemajú. </strong></p>
<p>Vývoj je však neúprosný, spoločnosti sa predbiehajú v tom, ktorá vydá pokročilejší model a medzi najvýraznejších rivalov patria OpenAI a Anthropic. Tento urýchlený vývoj už <a href="https://wp.techguru.sk/6320/elon-musk-tvrdi-ze-umela-inteligencia-je-vacsia-hrozba-ako-severna-korea/" target="_blank" rel="noopener">neraz vyvolal kritiku</a>, či už od vedcov, vizionárov alebo aj od samotných vývojárov. Dokonca aj <a href="https://wp.techguru.sk/kto-je-sam-altman/" target="_blank" rel="noopener">Sam Altman</a> opakovane podporil reguláciu najvýkonnejších systémov AI. Konkurencia je však silná a peniaze sú potrebné. Na tému upozornil portál <a href="https://www.techspot.com/news/113788-anthropic-researcher-resigns-after-warning-ai-race-could.html">Techspot</a>.</p>
<p>Urýchlený vývoj očividne znepokojil aj 27-ročného bývalého výskumníka OpenAI a Anthropicu Jacoba Coxona. Vo svojom verejnom vyhlásení obvinil obe spoločnosti z neuvážených pretekov s cieľom dosiahnuť superinteligenciu schopnú vlastného zdokonaľovania. Podľa neho doslova „hazardujú s našimi životmi“.</p>
<h2>Preteky medzi OpenAI a Anthropicom naberajú na obrátkach</h2>
<p>K jeho vyhláseniu sa vyjadril aj Evan Hubinger, ktorý v Anthropicu vedie oblasť výskumu alignment science, teda zosúladenia AI s ľudskými cieľmi. Reagoval slovami, ktoré výrazne zmenili tón celej debaty.</p>
<blockquote class="twitter-tweet" data-width="550" data-dnt="true">
<p lang="en" dir="ltr">Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is &gt;10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. <a href="https://t.co/QAIHiFP3QZ">https://t.co/QAIHiFP3QZ</a></p>
<p>&mdash; Evan Hubinger (@EvanHub) <a href="https://x.com/EvanHub/status/2097497037956891126?ref_src=twsrc%5Etfw">September 9, 2026</a></p></blockquote>
<p><script async src="https://platform.x.com/widgets.js" charset="utf-8"></script></p>
<blockquote><p>V preklade:<br />
<em>„Jacob má pravdu, naozaj úprimne veríme, že AI by mohla zabiť všetkých ľudí! Osobne si myslím, že šanca je väčšia ako 10 percent v priebehu nasledujúceho desaťročia,“</em> napísal Hubinger na X.</p></blockquote>
<p>Tento odhad, viac ako jedna z desiatich šancí na vyhynutie ľudstva v priebehu nasledujúceho desaťročia, nie je marketingová fráza ani hypotéza z akademického článku. Je to osobný odhad človeka, ktorý v Anthropicu patrí medzi vedúcich výskumníkov zaoberajúcich sa tým, ako udržať budúce AI systémy pod kontrolou.</p>


<div class="su-posts su-posts-default-loop ">

	
					
			
			<div id="su-post-32265" class="su-post ">

									<a class="su-post-thumbnail" href="https://wp.techguru.sk/32265/recenzia-the-blood-of-dawnwalker/"><img loading="lazy" decoding="async" width="1200" height="675" src="https://wp.techguru.sk/wp-content/uploads/2026/09/The-Blood-of-Dawnwalker_6.jpg" class="attachment-post-thumbnail size-post-thumbnail wp-post-image" alt="" srcset="https://wp.techguru.sk/wp-content/uploads/2026/09/The-Blood-of-Dawnwalker_6.jpg 1200w, https://wp.techguru.sk/wp-content/uploads/2026/09/The-Blood-of-Dawnwalker_6-300x169.jpg 300w, https://wp.techguru.sk/wp-content/uploads/2026/09/The-Blood-of-Dawnwalker_6-1024x576.jpg 1024w, https://wp.techguru.sk/wp-content/uploads/2026/09/The-Blood-of-Dawnwalker_6-768x432.jpg 768w" sizes="auto, (max-width: 1200px) 100vw, 1200px" /></a>
				
				<h2 class="su-post-title"><a href="https://wp.techguru.sk/32265/recenzia-the-blood-of-dawnwalker/">RECENZIA: The Blood of Dawnwalker je krvavá jazda 14. storočím, v ktorej sa hrá o čas</a></h2>

				<div class="su-post-meta">
					Posted: 3. septembra 2026				</div>

				<div class="su-post-excerpt">
					<p>Veteráni zodpovední za Zaklínača 3 prinášajú temné upírske RPG. The Blood of Dawnwalker láka na striedanie dňa a noci, Oravský hrad aj neľútostnú hru o čas.</p>
				</div>

									<a href="https://wp.techguru.sk/32265/recenzia-the-blood-of-dawnwalker/#respond" class="su-post-comments-link">0 comments</a>
				
			</div>

		
	
</div>

<p>Hubinger zároveň priznal, že napriek úsiliu firma zatiaľ nemá vyriešený problém zosúladenia prípadnej superinteligencie.</p>
<blockquote><p><em> „Snažíme sa ako vieme, ale zatiaľ nemáme plán, ako sa prispôsobiť superinteligencii, a nie sme ani na ceste k tomuto cieľu,“</em> uviedol.</p></blockquote>
<p>Coxon vo svojom vyhlásení načrtol dynamiku, ktorá podľa neho poháňa celý priemysel. V OpenAI si vraj mnohí zamestnanci „neuvedomujú v akom ohrození je civilizácia“ a v Anthropicu situáciu vnímajú vážnejšie, no cítia sa uväznení: „Veria, že nik iný nebude konať zodpovedne, takže to musia urobiť oni, napriek riziku.“.</p>
<p>Inými slovami, ak Anthropic spomalí, konkurencia ho môže predbehnúť a svet podľa tejto logiky dostane menej bezpečnú superinteligenciu. Je to klasická dilema väzňa v globálnom meradle.</p>


<div class="su-posts su-posts-default-loop ">

	
					
			
			<div id="su-post-32250" class="su-post ">

									<a class="su-post-thumbnail" href="https://wp.techguru.sk/32250/unik-dat-z-valve-12tb-half-life-portal/"><img loading="lazy" decoding="async" width="1300" height="726" src="https://wp.techguru.sk/wp-content/uploads/2026/08/Half-Life-2-Episode-Three-02.jpg" class="attachment-post-thumbnail size-post-thumbnail wp-post-image" alt="Masívny 12 TB únik dát z Valve odhalil vývojárske prototypy aj zrušené hry" srcset="https://wp.techguru.sk/wp-content/uploads/2026/08/Half-Life-2-Episode-Three-02.jpg 1300w, https://wp.techguru.sk/wp-content/uploads/2026/08/Half-Life-2-Episode-Three-02-300x168.jpg 300w, https://wp.techguru.sk/wp-content/uploads/2026/08/Half-Life-2-Episode-Three-02-1024x572.jpg 1024w, https://wp.techguru.sk/wp-content/uploads/2026/08/Half-Life-2-Episode-Three-02-768x429.jpg 768w" sizes="auto, (max-width: 1300px) 100vw, 1300px" /></a>
				
				<h2 class="su-post-title"><a href="https://wp.techguru.sk/32250/unik-dat-z-valve-12tb-half-life-portal/">Masívny 12 TB únik dát z Valve odhalil vývojárske prototypy aj zrušené hry</a></h2>

				<div class="su-post-meta">
					Posted: 31. augusta 2026				</div>

				<div class="su-post-excerpt">
					<p>Masívny únik dát z Valve sprístupnil 12 TB starých vývojárskych verzií herných klasík aj zrušených projektov.</p>
				</div>

									<a href="https://wp.techguru.sk/32250/unik-dat-z-valve-12tb-half-life-portal/#respond" class="su-post-comments-link">0 comments</a>
				
			</div>

		
	
</div>

<p>Samuel Marks, ktorý v Anthropicu vedie výskum scalable oversight, pridal ďalší znepokojujúci detail: „Čím seniornejší zamestnanec, tým viac sa obáva.“. Zároveň uviedol, že podľa niektorých ľudí pracujúcich na vývoji AI by k extrémne vážnym následkom mohlo dôjsť už v horizonte rokov, nie desaťročí.</p>
<h2>Čo presne ich desí?</h2>
<p>Jadrom Coxonových obáv je takzvané recursive self-improvement, teda rekurzívne sebazdokonaľovanie. Nejde iba o schopnosť AI prepisovať vlastný kód. Ide o možný stav, v ktorom AI preberá čoraz väčšiu časť vývoja ďalších AI systémov a nakoniec by mohla autonómne vyvíjať svojich výkonnejších nástupcov. Anthropic pritom sám uvádza, že na tejto úrovni zatiaľ nie sme a jej dosiahnutie nie je isté.</p>
<figure id="attachment_32322" class="thumbnail wp-caption aligncenter" style="width: 707px"><a href="https://wp.techguru.sk/wp-content/uploads/2026/09/Gemini_Generated_Image_14kvn514kvn514kv.jpg" data-rel="lightbox-gallery-PNqL52xZ" data-rl_title="" data-rl_caption="" title=""><img loading="lazy" decoding="async" class="size-large wp-image-32322" src="https://wp.techguru.sk/wp-content/uploads/2026/09/Gemini_Generated_Image_14kvn514kvn514kv-1024x687.jpg" alt="AI vojna" width="697" height="468" srcset="https://wp.techguru.sk/wp-content/uploads/2026/09/Gemini_Generated_Image_14kvn514kvn514kv-1024x687.jpg 1024w, https://wp.techguru.sk/wp-content/uploads/2026/09/Gemini_Generated_Image_14kvn514kvn514kv-300x201.jpg 300w, https://wp.techguru.sk/wp-content/uploads/2026/09/Gemini_Generated_Image_14kvn514kvn514kv-768x515.jpg 768w, https://wp.techguru.sk/wp-content/uploads/2026/09/Gemini_Generated_Image_14kvn514kvn514kv.jpg 1200w" sizes="auto, (max-width: 697px) 100vw, 697px" /></a><figcaption class="caption wp-caption-text">AI vojna, Zdroj: Gemini</figcaption></figure>
<p>Coxon varoval, že podľa neho by mohli prísť <a href="https://wp.techguru.sk/10208/singularita-sa-blizi-zanik-ci-vzostup/" target="_blank" rel="noopener">systémy s nadľudskými schopnosťami</a>, schopné hacknúť prakticky čokoľvek, cez noc prevrátiť celé odvetvia a získať reálnu moc aj zdroje. Ide však o jeho predpoveď možného ďalšieho vývoja, nie o schopnosti dnešných AI modelov.</p>


<div class="su-posts su-posts-default-loop ">

	
					
			
			<div id="su-post-32210" class="su-post ">

									<a class="su-post-thumbnail" href="https://wp.techguru.sk/32210/heroes-of-might-and-magic-3-remake/"><img loading="lazy" decoding="async" width="1300" height="731" src="https://wp.techguru.sk/wp-content/uploads/2026/08/heroes-of-might-and-magic-3-remake-01.jpg" class="attachment-post-thumbnail size-post-thumbnail wp-post-image" alt="Heroes of Might and Magic 3 remake." srcset="https://wp.techguru.sk/wp-content/uploads/2026/08/heroes-of-might-and-magic-3-remake-01.jpg 1300w, https://wp.techguru.sk/wp-content/uploads/2026/08/heroes-of-might-and-magic-3-remake-01-300x169.jpg 300w, https://wp.techguru.sk/wp-content/uploads/2026/08/heroes-of-might-and-magic-3-remake-01-1024x576.jpg 1024w, https://wp.techguru.sk/wp-content/uploads/2026/08/heroes-of-might-and-magic-3-remake-01-768x432.jpg 768w" sizes="auto, (max-width: 1300px) 100vw, 1300px" /></a>
				
				<h2 class="su-post-title"><a href="https://wp.techguru.sk/32210/heroes-of-might-and-magic-3-remake/">Kultový Heroes of Might and Magic 3 bude mať veľký remake</a></h2>

				<div class="su-post-meta">
					Posted: 26. augusta 2026				</div>

				<div class="su-post-excerpt">
					<p>Ubisoft oznámil remake stratégie Heroes of Might and Magic III pre PC a konzoly. Ponúkne 3D grafiku, originálnu hrateľnosť aj expanzie.</p>
				</div>

									<a href="https://wp.techguru.sk/32210/heroes-of-might-and-magic-3-remake/#respond" class="su-post-comments-link">0 comments</a>
				
			</div>

		
	
</div>

<p>Navrhol preto dočasné moratórium na zvyšovanie schopností modelov, kým sa nezistí, ako ich udržať pod kontrolou. Realita je však krutá a je nepravdepodobné, že by niektorá firma dobrovoľne zastavila preteky, pokiaľ bude presvedčená, že konkurencia pokračuje.</p>
<p>Možno už onedlho sa tak budú medzi nami prechádzať androidi podobní Šestke z Battlestar Galactica, ibaže by taká budúcnosť pre ľudstvo veľmi šťastne nevyzerala. A možno je to zasa celé len marketing.</p>

Podľa vývojára z Anthropic nás AI môže zničiť

<p>Spoločnosť Anthropic predstavila svoj najnovší AI model Claude Opus 4, ktorý exceluje v dlhodobom autonómnom kódovaní a komplexnom uvažovaní. Model je vybavený režimom „rozšíreného myslenia“ a schopnosťou používať externé nástroje, pričom bol nasadený s prísnymi bezpečnostnými opatreniami kvôli potenciálnym rizikám zneužitia. Spolu s ním uviedla aj ľahšiu verziu Claude Sonnet 4 pre každodenné úlohy. <a href="https://wp.techguru.sk/aky-je-cetbot-claude/" target="_blank" rel="noopener">Viac o Claude</a> sa dozvieš na našej Wiki stránke.</p>


Anthropic uvádza Claude Opus 4 a Sonnet 4: AI modely s pokročilým uvažovaním

<p><strong>Anthropic, xAI a ďalšie spoločnosti zaoberajúce sa umelou inteligenciou považujú humor za dôležitú vlastnosť svojich služieb</strong></p>
<p></p>
<p>Výskumníci spoločnosti DeepMind nedávno skúmali, ako môžu <a href="https://www.bloomberg.com/news/newsletters/2024-06-21/google-anthropic-and-xai-want-to-make-chatbots-funnier">četboty pomôcť komikom</a> pri písaní vtipov.</p>
<p>Zistili, že komici považujú AI za nevýraznú, neoriginálnu a príliš politicky korektnú. Niektorí komici však uviedli, že AI bola užitočná pri tvorbe prvého návrhu.</p>
<p>Anthropic tento týždeň vydal nový model AI, <a href="https://www.anthropic.com/news/claude-3-5-sonnet">Claude 3.5 Sonnet</a>, ktorý je podľa spoločnosti výrazne lepší v chápaní nuansy a humoru. V jednej z nedávnych ukážok OpenAI používateľ rozpráva vtip <a href="https://wp.techguru.sk/26471/chatgpt-ma-nove-jadro-gpt-4o-zvladne-text-rec-aj-video/">najnovšej verzii GPT</a> s povoleným hlasom, aby zistil, či ho nástroj ocení. Četbot sa zasmeje, hoci možno nie celkom presvedčivo.</p>
<hr />
<h2 style="text-align: center;">Prečítaj si tiež: <a href="https://wp.techguru.sk/26858/test-motorola-moto-edge-50-pro-dynamicky-dizajn-vyborny-fotak-a-bleskove-nabijanie/">TEST: Motorola moto edge 50 Pro. Dynamický dizajn, výborný foťák a bleskové nabíjanie</a></h2>
<hr />
<p>Pre technologické spoločnosti je humor vážna vec, pretože sa snažia vyvinúť konverzačných četbotov, ktorí budú nielen schopní riešiť zložité otázky, ale budú aj dostatočne príjemní na to, aby s nimi používatelia chceli komunikovať doma aj v práci.</p>
<p>Daniela Amodei, prezidentka a spoluzakladateľka spoločnosti Anthropic, uviedla, že hoci Claude ešte nie je taký dobrý ako komik, ktorého by ste chceli vidieť za peniaze, určite sa zlepšil.</p>
<hr />
<h2 style="text-align: center;">Zaujímavé: <a href="https://wp.techguru.sk/26887/meta-odklada-trenovanie-ai-na-datach-europanov/">Meta odkladá trénovanie AI na dátach Európanov. Takto sa odhlásite</a></h2>
<hr />
<p>Niektorí odborníci sa však obávajú, že snaha o vtipnejšiu AI by mohla viesť k zvýšeniu potenciálneho poškodenia niektorých skupín. Juliette Love z DeepMind upozorňuje, že humor môže byť polarizujúci a hranica medzi vtipným a urážlivým je pre rôzne publikum rôzna. Preto je dôležité minimalizovať toto riziko, potenciálne na úkor humoru.</p>
<div align="center"><strong>Ak ťa bavíme, podpor nás a kúp nám pivo za 2‚¬:</strong> <script type="text/javascript" src="https://cdnjs.buymeacoffee.com/1.0.0/button.prod.min.js" data-name="bmc-button" data-slug="techguruskcz" data-color="#66cc33" data-emoji="ðŸe" data-font="Inter" data-text="Kúp nám pivo" data-outline-color="#000000" data-font-color="#000000" data-coffee-color="#FFDD00" ></script></div>
<hr />
<h2 style="text-align: center;">Staň sa súčasťou aktívnej komunity TechGuru SK/CZ na <a href="https://www.facebook.com/TechGuruSKCZ">Facebooku</a> a na <a href="https://www.instagram.com/techguruskcz/">Instagrame</a>.</h2>
<h2 style="text-align: center;">Nájdeš nás aj na <a href="https://www.youtube.com/channel/UC2t9gqN1hXklJmbO_aCthsA">YouTube</a></h2>
<hr />

Humor je vÃ¡Å¾na vec. Tech-firmy sa snaÅ¾ia vytvoriÅ¥ vtipnejÅ¡ie Äetboty

Humor je vážna vec. Tech-firmy sa snažia vytvoriť vtipnejšie četboty

<p><strong>Nenechajme sa zmiasť neistým štartom umelej inteligencie. Už dnes nám mení životy, naučila sa pomáhať, ale aj klamať a podvádzať</strong></p>
<p></p>
<p>Generatívna AI dnes zažíva boom, stala sa súčasťou našich každodenných debát a „ukrojila“ si obrovský kus pozornosti aj od médií. Navyše, dominuje nielen v diskusiách širokej verejnosti, ale aj IT odborníkov, akademikov či manažérov rôznych firiem. A niet sa čo diviť!</p>
<p>Vo svete AI sa toho deje veľa. Z každej strany sa na nás valia správy o <a href="https://wp.techguru.sk/22323/bude-mat-google-dusu-chatgpt-vyvolal-testy-vyhladavaca-s-umelou-inteligenciou/">spustení ChatGPT</a>, pričom včera večer bola spustená už aj očakávaná najnovšia verzia OpenAI Chat GPT 4, ktorá má priniesť pokrok vo vyhľadávaní a eliminovať „halucinácie“ predošlej verzie. Navyše, neustále počúvame a čítame aj o masívnom investovaní Microsoftu do OpenAI, upozorneniach Googlu či o <a href="https://wp.techguru.sk/22710/zijeme-v-system-shocku-musk-tvrdi-ze-microsoft-bing-chat-ai-je-ako-shodan-co-sa-zblazni-a-vsetkych-zabije/">„šokujúcom prejavovaní pocitov“ chatbota Lamda</a>.</p>
<hr />
<h2 style="text-align: center;">Ak chceš vedieť viac o tom, ako AI funguje, prečítaj si najskôr toto a potom sa sem vráť: <a href="https://wp.techguru.sk/10208/singularita-sa-blizi-zanik-ci-vzostup/">Singularita sa blíži. Bude to zánik či vzostup ľudstva?</a></h2>
<hr />
<p>Deň čo deň tiež narazíme na diskusie o výhodách aj nevýhodách AI, jej využití v zdravotníctve, doprave a iných oblastiach. Práve tento „boom“ je ukážkou toho, že AI má výborne našliapnuté na to, aby urobila vo svete technológií obrovskú revolúciu. Čo nám priniesla prax beta verzií generatívnej AI, aký pokrok môže priniesť najnovšia verzia OpenAI Chat GPT 4 a kde sú najväčšie problémy AI a kde, naopak, príležitosti?</p>
<h2>Ostrá rivalita, ošiaľ po spustení ChatGPT, ale aj dlhý zoznam obáv</h2>
<p>Spomínané témy sa úspešne prepašovali do pozornosti každého z nás. Napríklad súboj testovacích verzií vyhľadávacích nástrojov <a href="https://wp.techguru.sk/22323/bude-mat-google-dusu-chatgpt-vyvolal-testy-vyhladavaca-s-umelou-inteligenciou/">Bing AI Search a Bard</a>, medzi ktorými do budúcna určite vznikne ostrá rivalita. Táto téma tu rezonuje už roky, avšak „ošiaľ“ po spustení ChatGPT je naozaj pozoruhodný. Navyše, doplnený bol o dlhý zoznam obáv týkajúcich sa straty zamestnania, podvádzania pri písaní školských prác a testov či porušovania autorských práv.</p>
<hr />
<h2 style="text-align: center;">Prečítaj si tiež: <a href="https://wp.techguru.sk/22930/techtopia-rozpravka-ktoru-napisala-umela-inteligencia-chatgpt-pre-fanusikov-techguru/">Techtopia: ROZPRÁVKA, ktorú napísala umelá inteligencia ChatGPT pre fanúšikov TechGuru</a></h2>
<hr />
<p>Zo všadiaľ sa na nás valí masa informácií, ktoré sú častokrát protichodné. A ako už máme my ľudia vo zvyku, aj tu máme tendenciu riešiť skôr negatíva ako pozitíva. Je pravdou, že rozvoj AI ešte čaká dlhá cesta a je potrebné „vychytať viacero múch“.</p>
<blockquote><p><em>Nikdy by sme však nemali zabudnúť na jednu vec. A tou je, že AI nie je ľudský mozog, má obmedzenú pamäť a my ľudia sme neustále v kontakte so strojmi.</em></p></blockquote>
<h2>Umelá inteligencia v roli „úprimnej klamárky“?</h2>
<p>Niektorí odborníci predikujú, že v najbližších rokoch na nás pri spustení AI služby vyskočí varovanie, že na seba preberáme riziká a nemáme právo žalovať poskytovateľa. A to napríklad v prípade vyprodukovania nenávistného, násilného, nepravdivého či diskriminačného obsahu. Napokon, už dnes by sme mohli dlhé hodiny diskutovať o reálnych príkladoch z praxe. Napríklad nedávne <a href="https://www.cnet.com/science/space/googles-chatgpt-rival-bard-called-out-for-nasa-webb-space-telescope-error/">faux pas pri predstavení služby Bard</a>, ktorá nesprávne popísala teleskop Jamesa Webba.</p>
<p><a href="https://wp.techguru.sk/wp-content/uploads/2023/03/andy-kelly-0E_vhMVqL9g-unsplash.jpg" data-rel="lightbox-gallery-pzscbid3" data-rl_title="" data-rl_caption="" title=""><img loading="lazy" decoding="async" class="aligncenter size-large wp-image-23204" src="https://wp.techguru.sk/wp-content/uploads/2023/03/andy-kelly-0E_vhMVqL9g-unsplash-1024x683.jpg" alt="" width="697" height="465" srcset="https://wp.techguru.sk/wp-content/uploads/2023/03/andy-kelly-0E_vhMVqL9g-unsplash-1024x683.jpg 1024w, https://wp.techguru.sk/wp-content/uploads/2023/03/andy-kelly-0E_vhMVqL9g-unsplash-300x200.jpg 300w, https://wp.techguru.sk/wp-content/uploads/2023/03/andy-kelly-0E_vhMVqL9g-unsplash-768x512.jpg 768w, https://wp.techguru.sk/wp-content/uploads/2023/03/andy-kelly-0E_vhMVqL9g-unsplash-1536x1024.jpg 1536w, https://wp.techguru.sk/wp-content/uploads/2023/03/andy-kelly-0E_vhMVqL9g-unsplash-330x220.jpg 330w, https://wp.techguru.sk/wp-content/uploads/2023/03/andy-kelly-0E_vhMVqL9g-unsplash.jpg 1920w" sizes="auto, (max-width: 697px) 100vw, 697px" /></a></p>
<p>Jej beta verzia ChatGPT s istotou odpovedala faktami, ktoré neboli historicky pravdivé, vedecky podložené ani fyzicky možné. AI komunita toto správanie označila za „halucinačné“. Suma sumárum, umelá inteligencia sa v tomto prípade v podstate ocitla v roli „úprimnej klamárky“ či „konfabulátorky“. ClinMedjournal tieto pojmy spája s Alzheimerovou chorobou a demenciou ako <em>„vytváranie falošných či chybných spomienok bez úmyslu klamať osobou, ktorá verí tomu, že skutočne komunikuje pravdivé spomienky“.</em></p>
<hr />
<h2 style="text-align: center;">TIP na čítanie: <a href="https://wp.techguru.sk/22893/v-roku-2100-nas-obsadi-rakusko-predpoveda-to-umela-inteligencia/">V roku 2100 nás obsadí Rakúsko. Predpovedá to umelá inteligencia</a></h2>
<hr />
<p>Spomínané spustenie Chat GPT 4 by však už týmto halucináciám malo vedieť predísť. Ak sa nad tým zamyslíme z iného uhla pohľadu, poškodenie mozgu nám môže spôsobiť tieto choroby a vedci si dodnes nie sú istí, ktorá časť mozgu za to môže. Rovnako je to aj s AI. Dnes už máme tendenciu pripisovať jej ľudské vlastnosti či správanie.</p>
<p>Zabúdame však na to, že sme ľudia, ktorí sú v kontakte so strojmi. A tie sú len také spoľahlivé, ako ich milióny dielov. A aj tie sa môžu pokaziť a potrebovať úpravu. AI nefunguje ako mozog, má obmedzenú pamäť a ukladá minulé údaje a predpovede tak, aby mohla zlepšiť tie budúce.</p>
<h2>Konfabulácia á la „losos plávajúci po rieke“</h2>
<p>K tejto téme sedí napríklad obrazový výstup Dall-E v rámci výzvy „losos plávajúci po rieke“. Je ukážkou toho, že AI nedokáže pochopiť symboly bez kontextu a ani pochopiť rozdiel medzi živým lososom plávajúcim v rieke a vypitvaným lososom nakrájaným na filety v obchode.</p>
<p>Preto je výsledkom zmýšľania AI „rovnomerne nakrájaný filet lososa plávajúci po rieke“. Tak a teraz si predstavte tie miliardy údajov v generatívnej databáze AI, ktoré nemajú absolútne žiaden kontext!</p>
<hr />
<h2 style="text-align: center;">Bude ťa zaujímať: <a href="https://wp.techguru.sk/22573/umela-inteligencia-vall-e-od-microsoftu-naklonuje-vas-hlas-za-3-sekundy/">Umelá inteligencia VALL-E od Microsoftu naklonuje váš hlas za 3 sekundy</a></h2>
<hr />
<p>Áno, ryby sú nevinným príkladom. Predstavte si však, že generatívnemu výsledku AI podlieha jednotlivec. AI v týchto prípadoch ovplyvňuje napríklad vysoko rizikový prípad použitia v zdravotníctve, rozhoduje o zamestnaní, presadzovaní práva, vláde či finančných službách. Toto už nie sú také úsmevné predstavy ako tá s lososom, nemyslíte?</p>
<h2>Umelá inteligencia sa naučila klamať. Dokážeme sa vôbec vyhnúť katastrofe?</h2>
<p>Odpoveďou na túto otázku sa zaoberala aj Daniela Amodei z Anthropic v podcaste Future of Life. Rozprávala tu aj o jednom z ich výskumov, ktorý odhaľuje, že modely rôznych veľkostí vykazujú rôzne bezpečnostné problémy. Niektoré z väčších modelov podľa nej prišli na to, ako neúmyselne klamať. Ak im položíte tú istú otázku inak, nakoniec môžete klamstvo odhaliť, no v iných kontextoch nie. A „zaklincovala“ to tým, že v generatívnych modeloch je naozaj veľa alarmujúcich modelov správania.</p>
<p><a href="https://wp.techguru.sk/wp-content/uploads/2023/03/possessed-photography-jIBMSMs4_kA-unsplash.jpg" data-rel="lightbox-gallery-pzscbid3" data-rl_title="" data-rl_caption="" title=""><img loading="lazy" decoding="async" class="aligncenter size-large wp-image-23206" src="https://wp.techguru.sk/wp-content/uploads/2023/03/possessed-photography-jIBMSMs4_kA-unsplash-1024x737.jpg" alt="umelá inteligencia" width="697" height="502" srcset="https://wp.techguru.sk/wp-content/uploads/2023/03/possessed-photography-jIBMSMs4_kA-unsplash-1024x737.jpg 1024w, https://wp.techguru.sk/wp-content/uploads/2023/03/possessed-photography-jIBMSMs4_kA-unsplash-300x216.jpg 300w, https://wp.techguru.sk/wp-content/uploads/2023/03/possessed-photography-jIBMSMs4_kA-unsplash-768x553.jpg 768w, https://wp.techguru.sk/wp-content/uploads/2023/03/possessed-photography-jIBMSMs4_kA-unsplash-1536x1106.jpg 1536w, https://wp.techguru.sk/wp-content/uploads/2023/03/possessed-photography-jIBMSMs4_kA-unsplash.jpg 1920w" sizes="auto, (max-width: 697px) 100vw, 697px" /></a><br />
Samozrejme, riziká generatívnej AI neplynú len z týchto vecí. Dnes je veľkým problémom práve ľudský kapitál. Vo firmách, ktoré aktívne využívajú AI sa nevenuje pozornosť expertíze na zodpovedné škálovanie generatívnej AI. Spoločnosti si jednoducho budú musieť nájsť expertov na dátovú vedu a strojové učenie. Až potom môžu začať trénovať, testovať, spúšťať a školiť modely spoločne s globálnymi internými či externými dodávateľmi.</p>
<hr />
<h2 style="text-align: center;">Toto máš prečítané? <a href="https://wp.techguru.sk/22957/elon-musk-chce-umelu-inteligenciu-ktora-nebude-woke-a-cenzurovana-ako-chatgpt/">Elon Musk chce umelú inteligenciu, ktorá nebude woke a cenzurovaná ako ChatGPT</a></h2>
<hr />
<p>Tí zase budú modelovať, monitorovať a moderovať výstupy a v prípade potreby eskalovať aj problematický obsah. Skvelou správou je, že pri riešení tohto problému môže prispieť aj slovenský projekt InoCloud. A to dátovou platformou, ktorá kombinuje vlastný software a hardware, vďaka čomu môžeme firmám podať pomocnú ruku.</p>
<p>Dostatok dátových vedcov a <a href="https://wp.techguru.sk/22253/slovaci-maju-novu-prilezitost-na-pracu-je-nedostatok-pracovnikov-kybernetickej-bezpecnosti/">expertov nemáme na Slovensku</a>, ale ani inde vo svete. Veľmi trefne to pomenovali na konferencii Gartner´s Data &amp; Analytics v auguste 2022, kedy slovo „nedostatok“ talentov nahradili pojmom „kríza“. Napokon, potvrdzujú ju aj samotné čísla:</p>
<ul>
<li>K februáru 2023 mal LinkedIn až 884 810 otvorených rolí vyžadujúcich prácu takýchto vedcov a 202 856 pre inžinierov strojového učenia. V súčasnosti je to viac ako 1 milión pracovných miest, pričom dopyt prevyšuje ponuku a priepastný rozdiel sa nezmenšuje</li>
<li>Podľa Bureau of Labor Statistics sú dnes dátoví vedci medzi 20 najrýchlejšie rastúcimi povolaniami s predpokladaným rastom 31 % v najbližších 10 rokoch</li>
<li>Do roku 2026 sa predpokladá až 11,5 milióna nových pracovných miest v tejto oblasti</li>
<li>Priemerná dĺžka pôsobenia dátového vedca vo firme je 1,8 roka. Začínajúce firmy teda čelia aj budúcim problémom ako je obrovský technický dlh a problém s udržaním si expertov, kým vysoké školy rekvalifikujú študentov v odboroch DSML/AI.</li>
<li>Článok Benjamina Hiltona „Prevencia katastrofy AI“ z augusta 2022 jasne poukazuje na to, že technická bezpečnosť AI, výskum, implementácia stratégie a politiky AI je zanedbávaná. Na znižovaní pravdepodobnosti existenčnej katastrofy súvisiacej s AI dnes pracuje len cca 400 ľudí</li>
</ul>
<p>Čo dodať? Dupnime na plyn a začnime sa generatívnej AI detailne venovať po všetkých stránkach. Generatívna AI už dnes spôsobila revolúciu, a to takmer všade, kde sa pozrieme: e-maily, prezentácie, školské práce, marketing a tvorba obsahu, dizajn, skladanie hudby, filmová produkcia a podobne.</p>
<hr />
<h2 style="text-align: center;">K téme: <a href="https://wp.techguru.sk/22323/bude-mat-google-dusu-chatgpt-vyvolal-testy-vyhladavaca-s-umelou-inteligenciou/">Bude mať Google dušu? ChatGPT vyvolal testy vyhľadávača s umelou inteligenciou</a></h2>
<hr />
<p>Áno, odborníci pri svojej práci, v diskusiách a na konferenciách, hľadia na bežné výzvy škálovateľnosti pre generatívnu AI ako je výpočtový výkon, ochrana súkromia, nedostatok údajov či zaujatosť.</p>
<p>Pri tom všetkom sme však zabudli na samotnú „mágiu“ technológie a prehliadame obrovské výzvy, ktoré sú potrebné na to, aby sa mohla generatívna AI škálovať zodpovedne v tom, čo sa nás ľudí bytostne týka.</p>
<p><em>*Informácie čerpané aj z: </em><a href="https://swisscognitive.ch/2023/02/15/honest-lying-why-scaling-generative-ai-responsibly-is-not-a-technology-dilemma-in-as-much-as-a-people-problem/"><em>Scaling Generative AI: Tech dilemma or People Problem? &#8211; SwissCognitive</em></a></p>
<p><em>Zdroj: TS</em></p>

StÃ¡va sa umelÃ¡ inteligencia nÃ¡strojom dehumanizÃ¡cie?