1. Databehandling och integritet
Frågor om informationskällor: Vilka datakällor kommer att användas för utbildning och drift av den automatiska sammanfattningsmodulen? Är dessa källor i enlighet med personuppgiftslagen?
...
AWS IAM-användare/roller med lämpliga behörigheter kan få åtkomst. I skrivande stund är det bara utvecklare som arbetar med systemet som har tillstånd.
Med rätt användaruppgifter kan åtkomst erhållas via REST API. Detta säkras endast genom det oauth2-kompatibla klientinloggningsflödet. Inloggningsuppgifter måste skapas av utvecklingsteamet.
2. Transparens och förklaringar
Fråga om modellförklaring: Är AI-modellens beslutsprocess dokumenterad och förståelig för användarna?
...
Av dessa utvärderingar är 1 och 2 på plats. 3 och 4 är under planering.
3. Fördomar och rättvisa
Frågor om att minska bias: Vilka åtgärder vidtas för att identifiera och minska eventuella fördomar i AI-modellens träningsdata och resultat.
...
Svar: Modellen utvärderar alla dokument och letar efter den mest korrekta informationen. Modellens resultat är inte 100% deterministiska och vi kan därför inte garantera att resultatet blir 100% detsamma hela tiden, utan i princip behandlar vi faktiska dokument och hämtar information från alla. Vi har inga mekanismer på plats för att ge särbehandling av vissa typer av dokument.
4. Prestanda och noggrannhet
Frågor om utvärderingsmätningar: Vad används för att utvärdera prestanda och noggrannhet hos AI-sammanfattningarna?
...
Svar: Se svar under "2. Reviderbarhetspunkt 3 och 4"
5. Användarinteraktion och feedback
Frågor om feedback från användare: Hur samlar vi in och använder användarfeedback för att förbättra AI-sammanfattningar?
...
Svar: Se tidigare svar. Dessutom kan de använda Mercells befintliga återkopplingssystem.
🇬🇧 AI Modules FAQ
1. Data Management and Privacy
Data Sources: What data sources will be used for training and operating the AI summarization module? Are these sources compliant with relevant data protection laws?
...
Through AWS IAM users/roles having the right permission set. At time of writing this is only available for developers working on the system
Through our REST API while having the right user credentials. This is secured through the oauth2 compliant client credentials flow only. Credentials need to be created by the developer team.
2. Transparency and Explainability
Model Explainability: How will the AI model's decision-making process be documented and made understandable to users?
...
Out of these evaluations, 1 and 2 are currently in place. 3 and 4 are being planned.
3. Bias and Fairness
Bias Mitigation: What steps are being taken to identify and mitigate any biases in the AI model’s training data and outputs?
...
The model is evaluating all the documents and will look for the most accurate information. Since the output of the model is not 100% deterministic it cannot be guaranteed that it will be 100% the same all the time, but in principle we are processing factual documents and retrieving factual information out of all of them. No mechanism is in place to provide special treatment to certain types of documents.
4. Performance and Accuracy
Evaluation Metrics: What metrics will be used to evaluate the performance and accuracy of the AI summaries?
...
See answer at “2. Auditability” point 3 and 4.
5. User Interaction and Feedback
User Feedback Mechanism: How will we collect and incorporate user feedback to improve the AI summaries?
...