Recentelijk Amazon gelanceerd zijn AI-chatbot Amazon Q, die interesse wekt bij bedrijven, maar ook zorgen onder werknemers over ernstige nauwkeurigheids- en privacykwesties. Q werd gerapporteerd omdat hij “Hallucinaties van niet poco rekening” en maakte vertrouwelijke gegevens openbaar, wat vragen opriep over de veiligheid van bedrijfsinformatie. Hier zijn de details bekendgemaakt door Platformer.
Beveiligingswaarschuwing voor Amazon Q: tussen vertrouwelijke gegevens en onjuiste antwoorden
Amazone geïntroduceerd zijn AI-chatbot, genaamd Q, drie dagen geleden, maar niet alles lijkt te gaan zoals gepland. Sommige medewerkers hebben alarm geslagen over kwesties als nauwkeurigheid en privacy: Amazon Q zou ‘hallucinaties’ hebben gemanifesteerd en onthuld informatie vertrouwelijk, zoals de locatie van AWS-datacenters, interne kortingsprogramma's en nog niet vrijgegeven functies.
Deze informatie kwam voort uit documenten die waren gelekt en verkregen door Platformer, met nadruk op een Beveiligingsprobleem van niveau 2, een ernstige situatie die dringend ingrijpen door ingenieurs vereist.
Desondanks heeft Amazon het belang van deze interne discussies gebagatelliseerd. Een woordvoerder zei dat het delen van feedback via interne kanalen standaardpraktijk is bij Amazon en dat er naar aanleiding van deze feedback geen beveiligingsproblemen zijn vastgesteld. Het bedrijf onderstreepte het belang van de ontvangen feedback en de wens om door te gaan verfijn Amazon Q terwijl het overgaat van preview naar algemene beschikbaarheid.
Amazon Q, momenteel beschikbaar in een gratis preview, werd gepresenteerd als een versie van bedrijfssoftware van een chatbot, met initiële functies gericht op het beantwoorden van ontwikkelaarsvragen over AWS, het aanpassen van broncodes en het citeren van bronnen. Amazon heeft de veiligheid en privacy van Q benadrukt en deze vergeleken met tools voor consumenten, zoals ChatGPT.
Uit een intern document bleek echter dat Q kan ‘hallucineren’ en schadelijke of ongepaste reacties kan geven, zoals verouderde beveiligingsinformatie waardoor de rekeningen van klanten in gevaar zouden kunnen komen. Deze risico's zijn typerend voor grote taalmodellen, die allemaal de neiging hebben om in sommige gevallen onjuiste of ongepaste antwoorden te geven.
Via | Slashdot
