OpenAI heeft het concept van Superuitlijning, een belangrijke stap voorwaarts in het beheersen van de risico's van superintelligentie. Superintelligentie, aangekondigd als de meest invloedrijke technologie die ooit door de mensheid is uitgevonden, zou veel van 's werelds belangrijkste problemen kunnen helpen oplossen. Echter, de enorme kracht van de superintelligentie het kan ook heel gevaarlijk zijn, wat leidt tot de machteloosheid van de mensheid of zelfs het uitsterven van de mensheid.
OpenAI presenteert Superalignment: de poging om kunstmatige intelligentie "uit te lijnen" met menselijke bedoelingen
Hoewel superintelligentie misschien ver weg lijkt, gelooft OpenAI dat het dit decennium zou kunnen komen. Het beheersen van deze risico's vereist onder meer nieuwe instellingen voor het bestuur en de oplossing van het probleem van de uitlijning van superintelligentie: Hoe kunnen AI-systemen die veel slimmer zijn dan mensen, ervoor zorgen dat ze de menselijke bedoelingen volgen?
Momenteel is er geen oplossing om een superintelligentiesysteem te sturen of te besturen. Huidige AI-uitlijningstechnieken ze vertrouwen op het vermogen van mensen om AI te overzien, die niet schaalbaar zal zijn tot superintelligentie. Het doel van OpenAI is om een geautomatiseerde afstemmingszoeker op menselijk niveau. Om dit doel te bereiken, moeten schaalbare trainingsmethoden worden ontwikkeld.
Zie ook: AI en AGI: Google-CEO DeepMind voorspelt een naderende doorbraak
OpenAI stelt een team van toponderzoekers en ingenieurs op het gebied van machine learning samen om aan dit probleem te werken. 20% van de beschikbare rekenkracht in de komende vier jaar zal worden besteed aan het oplossen van dit probleem. Het doel is om de belangrijkste technische uitdagingen van superintelligentie-uitlijning in vier jaar op te lossen. OpenAI nodigt iedereen die succesvol is geweest in machine learning uit om hun aandacht te richten op afstemming. De vruchten van deze inspanning zullen breed worden gedeeld, en afstemming en beveiliging van niet-OpenAI-modellen zijn belangrijk. Opgemerkt moet worden dat het bedrijf ook zal werken aan het verbeteren van de beveiliging van de huidige modellen en het aanpakken van andere risico's van AI.
Het oplossen van de superintelligentie-uitlijning vereist de knapste koppen ter wereld. AI openen stimuleert interdisciplinaire samenwerking en actieve betrokkenheid bij sociotechnische kwesties die verband houden met afstemming van superintelligentie.
