Americká společnost OpenAI hodlá důsledněji informovat o případech, kdy se její systémy využívající umělou inteligenci (AI) vymkly kontrole nebo postupovaly neočekávaným či znepokojivým způsobem. Firma nový systém pro sledování, vyšetřování a zveřejňování takovýchto incidentů představila na svých internetových stránkách.
Od agentů přes kvantizaci až po ztrátové funkce. Tady jsou pojmy, bez jejichž znalosti se v dnešní AI rychle ztratíte
OpenAI zároveň informovala o šesti dříve nezveřejněných incidentech, které zaznamenala v uplynulých šesti měsících. Ty zahrnují například zatajování informací před uživateli či vytváření falešných informací.
Společnost OpenAI uvedla, že její dosavadní informování o incidentech bylo méně systematické a méně časté, než by bylo ideální. Nový systém má zajistit rychlejší poskytování informací, a to i v případě, že firma ještě příslušné incidenty nedokázala objasnit.
„Náš nový systém upřednostňuje zveřejnění incidentu i tehdy, kdy je jeho význam nejistý. Znamená to, že se může ukázat, že některé ze zveřejněných incidentů jsou nahodilé a nejsou součástí širšího trendu či signálem dalšího vývoje,“ uvedla firma.
Šéf OpenAI Sam Altman tento týden prohlásil, že lidé mají právo na obavy ohledně AI, ale měli by firmám z tohoto odvětví důvěřovat, že technologii udrží na bezpečné úrovni. Šéf konkurenční společnosti Anthropic Dario Amodei o víkendu vyzval ke zpomalení vývoje modelů AI. K jeho výzvě se na sociální síti X připojil také Altman či podnikatel Elon Musk, který stojí za firmou xAI.
Šéf Anthropicu navrhuje zpomalit růst schopností AI, ale jen pro veřejnost a s podporou OpenAI a Elona Muska
Někteří výzkumní pracovníci z oblasti AI v poslední době varovali, že rychlý rozvoj této technologie by mohl v nepříliš vzdálené budoucnosti vést k zániku lidské rasy. Finanční ředitelka OpenAI Sarah Friarová v rozhovoru v televizi CNBC uvedla, že se neobává možnosti, že AI použije zbraně hromadného ničení proti lidem. Dodala však, že bezpečnostní otázky je zapotřebí brát vážně.
„Pokud to znamená, že budeme muset zpomalit, rozhodně vyslyšíme své výzkumné pracovníky a uděláme to,“ prohlásila.
Společnost OpenAI je průkopníkem v oblasti umělé inteligence. V roce 2022 zdarma zpřístupnila veřejnosti svého chatbota ChatGPT. Systém si rychle získal popularitu a výrazně přispěl k vlně zájmu veřejnosti, médií a investorů o umělou inteligenci. Firma nyní plánuje uvést své akcie na burzu.
Tento článek máteje zdarma. Když si předplatíte HN, budete moci číst všechny naše články nejen na vašem aktuálním připojení. Vaše předplatné brzy skončí. Předplaťte si HN a můžete i nadále číst všechny naše články.
- Veškerý obsah HN.cz
- Mobilní aplikace
- Bez reklam
- Odemykejte obsah pro přátele
- Články v audioverzi + playlist
- Možnost kdykoliv zrušit
