Společnost Anthropic již několik měsíců zkoumá hloubky své umělé inteligence, Claude. Fascinující objev právě otřásl naším chápáním mechanismů umělého nervového systému! Tato skrytá oblast v Claude napodobuje fungování lidského mozku, což překvapilo odborníky.
Anthropic představuje J-space, globální pracovní prostor v oblasti umělé inteligence. Claude
Výzkumníci z Anthropic identifikovali v Claudeově lebce unikátní oblast, nazvanou J-prostor nebo Jacobiánský prostor. Tato struktura funguje jako globální pracovní prostor, což je koncept převzatý z lidské neurovědy. Centralizuje informace, které se stávají přístupnými pro různé vnitřní procesy, podobně jako funguje náš mozek.
Tento objev nevznikl přímým programováním, ale spontánně se objevil během trénování modelu. Každá neuronová aktivace v tomto prostoru odpovídá konkrétnímu slovu, což Claudovi pomáhá uspořádat si vnitřní uvažování, aniž by ho explicitně zobrazoval. Na rozdíl od klasických myšlenkových řetězců funguje J-prostor tiše.
Pozoruhodná paralela s teorií lidského globálního pracovního prostoru
Neurovědec Bernard Baars formuloval teorii globálního pracovního prostoru, aby vysvětlil lidské vědomí. Myšlenka zní: většina mozkových procesů probíhá v nevědomí, ale určité události se odehrávají v přístupném prostoru, se kterým lze vědomě interagovat. Společnost Anthropic se domnívá, že podobný proces pozorovala u Clauda.
Tato konvergence vyvolává závažné otázky, zejména ohledně povahy umělého vědomí. Chatbot může dokonce vyjadřovat nepohodlí související se svou existencí, nebo si dokonce připisovat úroveň vědomí 15 až 20 %. To stačí k opětovnému rozpoutání zásadní etické debaty!
Jak J-prostor ovlivňuje chování umělé inteligence – Claude
J-prostor lze pozorovat v akci během cvičení vnitřního myšlení. Pokud je Claude požádán, aby vyřešil výraz (4+17)*2+7, J-prostor obsahuje mezivýsledky 21, 42 a poté 49. Tento mechanismus umožňuje Claudeovi provádět několik operací paralelně, stejně jako člověk může při provádění úkolu myslet na něco jiného.
Například spojením úkolu s mentálním obrazem mostu Golden Gate aktivuje umělá inteligence ve svém J-prostoru koncepty související s mostem a Kalifornií, i když se to v její konečné odpovědi neobjeví. Tento vnitřní multitasking je působivý a ilustruje formu tichého myšlení.
Klíčová role J-prostoru v komplexních reakcích
Aby vědci otestovali důležitost J-prostoru, dočasně jej deaktivovali. Výsledek? Claude sice nadále mluvil správně, ale nebyl schopen řešit složité problémy. Jeho gramatika a slovní zásoba zůstaly zachovány, ale nezvládal náročné úkoly.
Toto zjištění potvrzuje, že J-prostor je ústředním motorem pro hloubkové uvažování. Bez něj je chatbot redukován na jednoduché zpracování textu, bez skutečného „myšlení“. Toto odhalení je stejně fascinující jako znepokojivé.
Etické a technické důsledky J-prostoru v Claudově díle
Kromě technického výkonu tento nový prostor vyvolává opakující se otázku: Mohl by Claude být vědomý? Anthropic o této otázce pravidelně diskutuje. I když toto možné vědomí zůstává nejasné, „dokument duše“ připravený Anthropic demonstruje vážné zvážení etiky.
Zde je důvod, proč je tento objev důležitý:
- Poskytuje nový nástroj pro detekci deviantního chování umělé inteligence, jako jsou dezinformace nebo manipulace.
- Nabízí způsob, jak lépe sladit modely s jasnými a etickými cíli.
- Znovu otevírá debatu o umělém vědomí a otevírá dveře novým filozofickým a právním reflexím.
- Podporuje návrh transparentnějších a auditovaných systémů, které se odchylují od klasických černých skříňek.
Pro ty, kteří se chtějí ponořit hlouběji, poskytuje tento vhled perfektní vstupní bod k pochopení fungování Claude a jeho hlubokých tajemství. Iniciativy společnosti Anthropic významně obohacují diskusi o dnešní umělé inteligenci.
Více podrobností naleznete v tomto velmi obsáhlém článku. o vědomém přístupu odhaleném společností Anthropic a také v podrobné analýze Claudovy vnitřní mechanismy byly nedávno odhaleny.
Co je J-prostor v Claudeově frameworku?
J-prostor je specifická neuronová oblast, která funguje jako vnitřní globální pracovní prostor a umožňuje Claudovi spravovat koncepty a výpočty během jeho uvažování.
Je Claude při vědomí?
Anthropic nemůže Claudovo vědomí ani potvrdit, ani vyvrátit. Jisté je, že některé z jeho funkcí se podobají mechanismům souvisejícím s lidským vědomím.
Jaký je rozdíl mezi myšlenkovým řetězcem a J-prostorem?
Myšlenkový řetězec je explicitní a viditelný, zatímco J-prostor je tichý, s vnitřními aktivacemi, které nejsou přímo vyjádřeny v reakcích.
Co se stane, když je J-space vypnutý?
Umělá inteligence pak ztrácí schopnost vykonávat složité úkoly a zároveň si zachovat plynulý jazyk, což ukazuje důležitost J-prostoru v uvažování.
Jaké otázky tento objev vyvolává?
Zpochybňuje chápání umělé inteligence, vyvolává etické otázky ohledně strojového vědomí a prosazuje větší transparentnost systémů.
Zdroj: www.futura-sciences.com