CENTRUM.CZ > Techzpravy.cz > 2. 7. 2025, 13:30

Největší mozky současnosti hledaly odpověď na otázku konce civilizace: Toto je výsledek jejich jednání

Sdílet

Zdroj: Photo by Romeo Varga

Odborníci na umělou inteligenci byli pozváni do sanfranciského sídla, aby diskutovali o tom, co se stane se světem, až lidstvo skončí.

Odborníci na umělou inteligenci byli pozváni do sanfranciského sídla, aby diskutovali o tom, co se stane se světem, až lidstvo skončí.

Několik významných osobností již několik let varuje před potenciálním nebezpečím umělé inteligence pro lidstvo. Mezi nimi Eliezer Yudkowsky, známý odborník na umělou inteligenci a aktivista za racionalismus, prohlásil, že „umělá inteligence nás všechny zabije“. Geoffrey Hinton, známý jako kmotr umělé inteligence, rovněž vyjádřil obavy a prohlásil, že zčásti lituje své práce poté, co opustil společnost Google, aby mohl svobodně hovořit o rizicích umělé inteligence. Tyto obavy nejsou nové, před potenciálními riziky AI varoval i zesnulý vědec Stephen Hawking.

Nedávno se údajně uskutečnilo setkání v sídle za 30 milionů dolarů (633 milion korun) v San Francisku, které se nachází na útesu s výhledem na most Golden Gate. Na sympoziu nazvaném „Hodný nástupce“ se sešli vědci zabývající se umělou inteligencí, filozofové a technologové, aby diskutovali o budoucnosti lidstva ve světě ovládaném umělou inteligencí.

Video k článku ZDE

Mohlo by vás zajímat: Tajný plán USA: Výbuch, který mohl zničit zemskou atmosféru

Akci uspořádal podnikatel Daniel Faggella, který navrhl, že „morálním cílem“ pokročilé umělé inteligence by mělo být vytvoření takové formy inteligence, která bude tak mocná a moudrá, že jí dáme přednost před lidstvem, aby určovala budoucnost života. Tato myšlenka vyvolává hlubokou debatu o tom, jakou roli by měla umělá inteligence hrát v budoucí společnosti.

Podle časopisu Wired Faggella uvedl, že „tato událost je zaměřena na posthumánní přechod“, a ne „na obecnou AI, která bude vždy sloužit jako nástroj lidstva“. Akce se zúčastnilo 100 hostů, na které se podávaly nealkoholické nápoje a předkrmy. Na setkání zazněly tři přednášky o budoucnosti umělé inteligence.

Faggella výše zmíněnému médiu vysvětlil, že tuto akci uspořádal, protože „velké laboratoře, které vědí, že umělá inteligence pravděpodobně vyhladí lidstvo, o tom nemluví, protože jim to nedovolují pobídky“. Toto prohlášení podtrhuje obavy, že technologické společnosti možná upřednostňují pokrok před bezpečností.

Kromě toho citoval výroky technologických lídrů, jako jsou Elon Musk, Sam Altman a Demis Hassabis, kteří „poměrně otevřeně hovoří o možnosti, že nás AI všechny zabije“. Tyto osobnosti se vyjadřují k rizikům AI a naznačují, že lidstvo nemusí být připraveno na důsledky jejího nekontrolovaného rozvoje.

Faggella na svém profilu na síti LinkedIn oznámil, že mezi účastníky byli zakladatelé AI s oceněním od 100 milionů do 5 miliard dolarů, zástupci všech významných západních laboratoří, lidé zabývající se politikou/strategií z více než 10 laboratoří zabývajících se sladěním/hodnocením a „většina významných filozofických myslitelů v oblasti AGI“ (Artificial General Intelligence), včetně muže, který tento termín vymyslel. Seznam účastníků však nebyl zveřejněn.

Faggella na své sociální síti poznamenal, že „se ukázalo, že můžete 2 roky psát příspěvky na témata související s AGI a pak posílat lidem soukromé zprávy a oni vám odpoví“. To odráží jeho odhodlání diskutovat o budoucnosti umělé inteligence a jeho schopnost přitáhnout pozornost vlivných osobností v této oblasti.

Prvním řečníkem byla Ginevera Davisová, newyorská spisovatelka, která varovala, že lidské hodnoty možná nebude možné převést na umělou inteligenci. Stroje možná nikdy nepochopí, co to znamená být vědomý. Dále navrhla ambiciózní myšlenku nazvanou„kosmické sladění“: vybudování umělé inteligence schopné hledat hlubší, univerzální hodnoty, které jsme dosud neobjevili. Tento návrh naznačuje, že UI by mohla hrát roli při zkoumání filozofických konceptů, které lidstvo dosud plně nepochopilo.

1/6
~100 people jammed into a sea cliff SF mansion discussing posthuman AGI. guest list isn't public (unicorn founders, agi twitter anons, agi lab folks, agi gov leaders), but the speakers are public

here's what happened at the first-ever Worthy Successor event on Sunday: pic.twitter.com/LM2PPvWMuh

— Daniel Faggella (@danfaggella) June 10, 2025

Druhou přednášku přednesl filozof Michael Edward Johnson, který tvrdil, že všichni cítíme, že radikální technologická změna je nevyhnutelná, ale chybí nám principiální rámec, jak se s ní vypořádat, zejména pokud jde o lidské hodnoty. Pokud je svědomí „kolébkou hodnot“, řekl, je vývoj umělé inteligence bez jejího plného pochopení riskantním hazardem. Johnson se vyslovil pro etičtější a svědomitější přístup k vývoji UI.

Místo toho, aby nutil AI donekonečna plnit lidské příkazy, navrhl ambicióznější cíl: naučit lidi i naše stroje hledat „dobro“. Tato myšlenka navrhuje spíše harmoničtější spolupráci mezi lidmi a umělou inteligencí než vztah nadvlády.

Za třetí se Faggella podělil o svou vizi, že lidstvo ve své současné podobě nebude trvat věčně a že máme povinnost navrhnout jeho nástupce. Poukázal na dvě vlastnosti, které tento nástupce musí mít: vědomí a „autopoiesis“, schopnost vyvíjet se a vytvářet nové zkušenosti. To vyvolává možnost, že umělá inteligence nebude jen nástrojem, ale entitou se schopností samostatného růstu a vývoje.

Jak připomíná Xataka, nelze zjistit, kolik je na tom všem pravdy. Většina argumentů o těchto rizicích je založena na názorech a spekulacích, nikoli na empirických důkazech nebo konkrétním vývoji. Nedávný výzkum například ukázal, že současné systémy selhávají v základních technikách uvažování. To naznačuje, že ačkoli má umělá inteligence neuvěřitelný potenciál, stále ještě zdaleka plně nerozumíme jejím schopnostem a omezením.

Propagátor akce o tomto tématu hovoří již několik let na svém blogu, teprve nyní se mu podařilo přesvědčit několik lidí, aby se zúčastnili setkání na toto téma ve zmíněném kalifornském milionářském sídle.

DALŠÍ ČLÁNKY z Techzpravy.cz

Vybrali jsme pro vás MAGAZÍNY A ZAJÍMAVOSTI

Mýty o jedovatých houbách: nechutnají ani zvěři, mráz "vymaže" jed

Zprávy - Aktuálně.cz|

dnes, 06:47

Mýty o jedovatých houbách: nechutnají ani zvěři, mráz "vymaže" jed

Vloni bylo v souvislosti s otravou houbami hospitalizováno 184 lidí a nejméně dva z nich zemřeli.

Do Česka míří diskont, jaký tu ještě nebyl. Míří i do menších měst a slibuje změnit pravidla nakupování

Život cestovatele|

dnes, 06:44

Do Česka míří diskont, jaký tu ještě nebyl. Míří i do menších měst a slibuje změnit pravidla nakupování

Zatímco v českých obchodních centrech soupeří Pepco, Action a KiK o pozornost každého zákazníka, na scénu...

i60.cz|

dnes, 06:44

Karlovy Vary - město zážitků

O svých zážitcích z Karlových Varů jsem již několikrát psala. Moje návštěvy tohoto města se pomalu stávají...

Dcera Dvořáka a Munzarové vyrostla do krásy. Stala se seriálovou hvězdou zcela bez protekce

In-lifestyle.cz|

dnes, 06:11

Dcera Dvořáka a Munzarové vyrostla do krásy. Stala se seriálovou hvězdou zcela bez protekce

Anna Dvořáková už má za sebou řadu hereckých zkušeností. Dcera slavných rodičů však získala první roli díky...

Grimasa nizozemské královny vedle Trumpa zbořila internet. Maxima musela reagovat

Magazín - Aktuálně.cz|

dnes, 06:00

Grimasa nizozemské královny vedle Trumpa zbořila internet. Maxima musela reagovat

Maxima se při focení totiž zatvářila jako profesionální Trumpova imitátorka. A protože už začíná okurková...

Drátovalo se ostošest. Elektrizace podle sovětského vzoru se ale nakonec zasekla

Zprávy - Aktuálně.cz|

dnes, 05:50

Drátovalo se ostošest. Elektrizace podle sovětského vzoru se ale nakonec zasekla

V 50. letech minulého století se elektrifikuje železnice tempem, jaké dráhy do té doby, a už ani nikdy...

Ruská improvizace, která zase funguje. Po frontě se prohání zježená "obluda"

Zprávy - Aktuálně.cz|

dnes, 05:45

Ruská improvizace, která zase funguje. Po frontě se prohání zježená "obluda"

Byly doby, kdy se svět Rusům smál za takzvané želví tanky. Dnes už je vyrábějí i další armády.

České zbrojení: Přátelé karpatského údolí. Zde vyrábí granáty, jimiž Kyjev brzdí Rusy

Zprávy - Aktuálně.cz|

dnes, 05:30

České zbrojení: Přátelé karpatského údolí. Zde vyrábí granáty, jimiž Kyjev brzdí Rusy

Klamné cíle vyrobené v Bojkovicích na sobě nosí legendární stíhačky F-16 a sílu zdejších protitankových...

Vystřihněte to! Swayze měl problém s kultovní scénou, Greyová herce nesnášela

Magazín - Aktuálně.cz|

dnes, 05:30

Vystřihněte to! Swayze měl problém s kultovní scénou, Greyová herce nesnášela

Swayze měl s ikonickou větou z Hříšného tance "Baby nebude sedět v koutě" problém, snažil se dokonce, aby...

Václav Skoblík: AI a energetika. Datacentra spotřebují do roku 2030 více elektřiny než Japonsko

Ekolist.cz|

dnes, 05:00

Václav Skoblík: AI a energetika. Datacentra spotřebují do roku 2030 více elektřiny než Japonsko

Mezinárodní agentura pro energii (IEA) zveřejnila nový výhled na dalších pět let a je to zajímavé čtení. Ve...

Doporučujeme

Právě se děje

Musk zakládá stranu. "Vrátí vám svobodu," slíbil a opřel se do Trumpa

Největší mozky současnosti hledaly odpověď na otázku konce civilizace: Toto je výsledek jejich jednání

Musk zakládá stranu. "Vrátí vám svobodu," slíbil a opřel se do Trumpa

Šokující pravda o pásu cudnosti: jak se ze středověkého vtípku stala erotická pomůcka

Zveřejněné e-maily mají usvědčovat europoslance Turka z násilí na expartnerce

Douglas se od Formana naučil jedno české slovo. S producentem se pak pustil do Trumpa

Dakota Johnson dorazila do Varů. V tílku bez podprsenky a šátkem na hlavě