OpenAI, het kunstmatige-intelligentiebedrijf dat de wereld verbaasde met zijn innovaties, vormt zich een nieuwe branchevereniging. Het doelwit? De veilige en verantwoorde ontwikkeling van grensverleggende AI-systemen bevorderen. Dit is een belangrijke stap, aangezien zowel overheden als de industrie het erover eens zijn dat ondanks deAI biedt een enorme belofte voor het welzijn van de wereldadequate beveiligingsmaatregelen zijn vereist om de risico's te beperken.
OpenAI, Anthropic, Google en Microsoft: de drie sleutelgebieden voor een veilige toekomst van AI
Il Frontier-modelforum (zo heet het) zal zich het komende jaar concentreren op drie belangrijke gebieden om de veilige en verantwoorde ontwikkeling van grensverleggende AI-modellen te ondersteunen. Allereerst, zal best practices identificeren, het bevorderen van het delen van kennis tussen de industrie, overheden, het maatschappelijk middenveld en de academische wereld. Ten tweede, het zal onderzoek naar AI-beveiliging ondersteunen, het identificeren van de belangrijkste onderzoeksvragen op dit gebied. Uiteindelijk, het zal het delen van informatie tussen bedrijven en overheden vergemakkelijken, het opzetten van veilige en vertrouwde mechanismen voor het delen van informatie met betrekking tot AI-beveiliging en -risico's.
Zie ook: OpenAI introduceert Superalignment: hoe AI menselijke bedoelingen kan volgen
Een gedeelde inzet voor een veilige toekomst van AI
Talrijke marktleiders hebben hun enthousiasme voor dit initiatief uitgesproken. Kent Wandelaar, President van Global Affairs bij Google & Alphabet, zei: “We zijn verheugd om samen te werken met andere toonaangevende bedrijven en technische expertise te delen om verantwoorde innovatie in AI te stimuleren. We moeten allemaal samenwerken om ervoor te zorgen dat AI iedereen ten goede komt“. Ook Brad smid, Vice President & President van Microsoft, onderstreepte het belang van dit initiatief: “Bedrijven die AI-technologie maken, hebben de verantwoordelijkheid om ervoor te zorgen dat deze veilig is en onder menselijke controle blijft. Dit initiatief is een belangrijke stap om de technologiesector samen te brengen om AI op een verantwoorde manier te bevorderen en uitdagingen aan te gaan op een manier die de hele mensheid ten goede komt'.
Anna Makanju, Vice President of Global Affairs bij OpenAI, benadrukte dat geavanceerde AI-technologieën het potentieel hebben om de samenleving grote voordelen te bieden. Hij beweerde dat de realisatie van dit potentieel het vereist toezicht en bestuur. Hij benadrukte het belang van AI-bedrijven, vooral degenen die aan de krachtigste modellen werken, zich op een gemeenschappelijke basis afstemmen en doordachte en adaptieve beveiligingspraktijken bevorderen. Dit, zei hij, het zal ervoor zorgen dat krachtige AI-tools het grootst mogelijke voordeel hebben. Hij benadrukte dat dit dringend werk is en dat het forum goed gepositioneerd is om snel te handelen om de staat van AI-beveiliging te verbeteren.
