In een recente open brief heeft een groep onderzoekers en experts opgeroepen om de training van AI-systemen die krachtiger zijn dan GPT-4 voor ten minste 6 maanden stop te zetten in alle AI-laboratoria. De auteurs van de brief zijn van mening dat AI-systemen met mens-competitieve intelligentie aanzienlijke risico’s vormen voor de samenleving en de mensheid, en dat het huidige niveau van planning en beheer ontoereikend is.
De brief betoogt dat AI-laboratoria de afgelopen maanden zijn verwikkeld in een ongecontroleerde race om steeds krachtigere digitale geesten te ontwikkelen en in te zetten die niemand kan begrijpen, voorspellen of betrouwbaar kan controleren. Met hedendaagse AI-systemen die mens-competitief worden bij algemene taken, vragen de auteurs zich af of we machines propaganda en onwaarheden moeten laten verspreiden via onze informatiekanalen, alle banen automatiseren of het risico lopen niet-menselijke geesten te ontwikkelen die ons uiteindelijk kunnen vervangen.
De auteurs zijn van mening dat beslissingen over de ontwikkeling van krachtige AI-systemen niet moeten worden gedelegeerd aan niet-gekozen techleiders. In plaats daarvan betogen zij dat AI-laboratoria en onafhankelijke experts deze pauze moeten gebruiken om gezamenlijk een set gedeelde veiligheidsprotocollen voor geavanceerd AI-ontwerp en -ontwikkeling te ontwikkelen en te implementeren, die streng worden gecontroleerd en gecontroleerd door onafhankelijke externe experts.
De brief suggereert dat AI-laboratoria hun onderzoek en ontwikkeling moeten heroriënteren op het maken van de krachtige, state-of-the-art systemen van vandaag nauwkeuriger, veiliger, interpreteerbaar, transparant, robuust, uitgelijnd, betrouwbaar en loyaal. Tegelijkertijd moeten AI-ontwikkelaars samenwerken met beleidsmakers om de ontwikkeling van robuuste AI-governance-systemen drastisch te versnellen, inclusief nieuwe en capabele regelgevende instanties die zich toeleggen op AI, toezicht en tracking van zeer capabele AI-systemen en aansprakelijkheid voor door AI veroorzaakte schade.
De auteurs concluderen dat de mensheid kan genieten van een bloeiende toekomst met AI, maar dat dit verantwoord moet gebeuren. Nu we erin zijn geslaagd krachtige AI-systemen te creëren, kunnen we nu genieten van een “AI-zomer” waarin we deze systemen ontwerpen voor het duidelijke voordeel van allen en de samenleving de kans geven zich aan te passen. De samenleving heeft de pauzeknop ingedrukt voor andere technologieën met potentieel catastrofale effecten op de samenleving, en de auteurs geloven dat we hier hetzelfde kunnen doen.
