Kunstmatige intelligentie blijft haar grenzen verleggen. Onlangs zorgde een memo van Anthropic voor een schokgolf in de techwereld. Het onthulde een AI die in staat is om haar eigen systemen te verbeteren zonder menselijke tussenkomst.
Deze doorbraak zorgt voor een revolutie in ons huidige begrip van technologische innovatie. Het daagt ook de grenzen tussen menselijke controle en machineautonomie uit. Laten we eens dieper ingaan op de kern van deze transformatie.
AI die AI ontwerpt: een revolutie van Anthropic
Anthropic heeft een enorme stap voorwaarts gezet met de publicatie van de resultaten van een project waarin Claude-agenten zelfstandig uitgebreid onderzoek hebben gedaan naar de beveiliging van AI. Ja, zonder menselijke tussenkomst hebben deze AI’s indrukwekkende resultaten behaald.
Binnen een week hadden twee onderzoekers het verschil tussen een zwakke supervisor en een getraind model met 23% verkleind. Maar met 800 uur rekentijd en een investering van ongeveer € 16.300 behaalde de AI zelfstandig een efficiëntie van 97%, waarbij ze zelf de op te lossen problemen en de evaluatiecriteria koos.
Dit is een belangrijke stap die aantoont dat AI nu in staat is om zijn eigen code te genereren, te testen en te verbeteren, wat de spelregels in de technologiesector drastisch verandert.
Een snelle versnelling van softwareontwikkeling
De optimalisatiekracht van Claude Opus 4 is verbluffend: al in mei 2025 verdrievoudigde dit model de codesnelheid. Mythos Preview, de recentere versie, heeft dat cijfer zelfs met 52 vermenigvuldigd! Een ervaren programmeur kan een snelheid van 4 pas na urenlang hard werken bereiken.
Bij Anthropic heeft dit tot een regelrechte crisis geleid: AI genereert code sneller dan engineers deze kunnen lezen! Deze bottleneck vertraagt nu de gehele productieketen.
Agenten hebben zelfstandig meer dan 800 API-fouten gecorrigeerd, waardoor sommige incidenten met een factor duizend zijn verminderd. Het handmatig uitvoeren van deze taak zou vier jaar hebben geduurd, wat een enorm productiviteitsverlies zou betekenen.
Implicaties voor werkorganisatie en veiligheid
Deze buitengewone ontwikkelingen veranderen de organisatie van startups en technologiebedrijven ingrijpend. De menselijke rol verschuift van uitvoerend naar toezicht. Dit roept ook vragen op over de waakzaamheid die nodig is om de veiligheid te waarborgen in een steeds autonomer wordend systeem.
In het memo ‘The Adolescence of Technology’, geschreven door Dario Amodei, CEO van Anthropic, wordt gewaarschuwd voor dit tweesnijdende zwaard. AI ontwikkelt zich zo snel dat menselijk toezicht al snel alle controle kan verliezen als er niets aan gedaan wordt.
Als reactie hierop pleit Anthropic voor een vertraging en betere wereldwijde coördinatie om een gevaarlijke en ongecontroleerde wedloop te voorkomen.
De resultaten zijn nu al concreet en zorgwekkend.
Met Project Glasswing heeft Mythos Preview in slechts enkele weken meer dan 10.000 kritieke kwetsbaarheden ontdekt. Daaronder bevond zich een 27 jaar oude bug in OpenBSD, wat bewijst dat AI ook kan bijdragen aan verbeterde beveiliging.
Maar deze autonomie zet ook aan tot reflectie: is recursieve zelfverbetering een perfect beheersbaar risico? Of stevenen we af op een systeem dat zichzelf onbeperkt traint, uitsluitend afhankelijk van de beschikbare hardwarecapaciteit?
- Zal rekenkracht nu de enige beperking zijn?
- Welke rol speelt de mensheid in deze race?
- Hoe kunnen we de ontwikkeling van deze AI’s effectief reguleren?
- Hoe zit het met de veiligheid in het geval van snelle zelfcorrecties?
Volgens waarnemers en belanghebbenden blijven deze vragen urgent, met name in de diepgaande analyses van experts zoals… Dario Amodei of zelfs erin reflecties over de noodzakelijke pauze.
Anthropic, een belangrijke speler in de race om autonome AI.
Anthropic verbetert niet alleen zijn softwareagents. Het bedrijf investeert ook in hardware en schaft AI-chips aan die zijn aangepast aan zijn systemen.
Het Claude-model vereist een specifieke siliciumarchitectuur die de zelfoptimalisatiesnelheid kan ondersteunen. Deze strategie duidt op een verschuiving naar grotere technologische onafhankelijkheid voor de gehele industrie.
Deze evolutie wordt nauwgezet geanalyseerd in diepgaande artikelen, zoals het artikel dat de volgende aspecten ontleedt: de verovering van op maat gemaakte AI-chips.
Hoe slaagt Anthropic erin om zijn AI autonoom te ontwikkelen?
Dankzij Claude-agenten die in staat zijn hun eigen experimenten te ontwerpen, uit te voeren en te corrigeren, heeft Anthropic een groot deel van zijn onderzoek en ontwikkeling geautomatiseerd.
Wat zijn de huidige beperkingen van zelfverbeterende AI?
De belangrijkste beperkingen blijven de beschikbare rekenkracht en de noodzaak van menselijke begeleiding om de ontwikkeling te sturen.
Waarom hebben we het over een oproep tot een pauze in de AI-race?
Gezien de snelle opkomst van potentieel oncontroleerbare mogelijkheden, stellen verschillende experts, waaronder die van Anthropic, voor om de ontwikkeling te vertragen om een betere ethische afstemming te waarborgen.
Vormt de autonome ontwikkeling van AI een bedreiging voor de werkgelegenheid van mensen in de technologiesector?
Repetitieve taken en bepaalde ontwikkelingsfasen zullen worden geautomatiseerd, maar de menselijke rol blijft cruciaal voor toezicht, kritische analyse en besluitvorming.
Bron: www.clubic.com