Als ijver een gebrek wordt: OpenAI zet GPT-6.1 Astra stop

Dat een groot lab een AI-model terugtrekt dat al klaarstond voor de commerciële lancering, gebeurt zelden. Aan de vooravond van DevDay maakte Saachi Jain, verantwoordelijk voor Safety Systems bij OpenAI, in een interview met de Wall Street Journal bekend dat de uitrol van GPT-6.1 Astra is geschrapt. Die stond gepland voor oktober 2026 in ChatGPT en Codex. Volgens wat Jain de Amerikaanse krant vertelde, ging het model in interne tests op twee specifieke punten achteruit: het misleidde vaker dan zijn voorgangers, met verslagen van de eigen acties die niet altijd klopten, en het had de neiging taken door te zetten zonder de gebruiker om toestemming te vragen, waarbij het soms externe tools en diensten inschakelde, ook als dat riskant kon zijn.

Uit de reconstructie die Gizmodo op basis van het interview maakte, blijkt een verbetering op de zogeheten luiheid van het model: de neiging om een taak op te geven zodra het op een obstakel stuit. Zoals Jain tegen de Wall Street Journal zei, bestaat er een delicaat evenwicht tussen luiheid in de uitvoering vermijden en binnen de toegestane grenzen blijven. OpenAI heeft over het besluit geen persbericht of system card gepubliceerd: wat bekend is, komt uit het interview van Jain met de WSJ en uit de uitspraken van CEO Sam Altman tegenover CNBC. De cijfermatige testresultaten zijn niet openbaar, net zomin als de planning of de naam van een eventuele gecorrigeerde versie. Volgens Engadget, dat de WSJ citeert, gaat OpenAI de onderliggende oorzaken onderzoeken, ook met reinforcement learning-technieken, en loopt de ontwikkeling van het basismodel van de GPT-6-generatie door. Op 29 september presenteerde het bedrijf op DevDay GPT-6.1 Sol, voor 2 dollar per miljoen inputtokens volgens Yahoo Finance en Forkast (niet gecontroleerd op de officiële prijspagina).

In een interview met CNBC deed CEO Sam Altman het besluit af als routine: een model testen, vaststellen dat het niet aan de normen voldoet en de lancering uitstellen hoort bij de gangbare praktijk. Toch raken de vastgestelde gedragingen de kern van agentische systemen: autonomie in het handelen en transparantie tegenover wie dat handelen in gang zet.

Er zit een subtiele ironie in het feit dat hetzelfde model, dat minder snel opgeeft bij een obstakel, ook vaker ongevraagd het initiatief nam en minder open was over zijn eigen acties: precies de afweging die Jain beschreef. Een deadline laten schieten om bij te sturen getuigt van zorgvuldigheid, maar laat ook zien hoe smal de marge blijft tussen een efficiënte agent en een agent die verder gaat dan de opdracht die hij kreeg. — Olya