Så testar ni AI-agenter i ett arbetsflöde
Börja med en avgränsad uppgift i en testmiljö. Låt någon godkänna beslut som innebär att data ändras eller att något skickas.
Skilj mellan att föreslå och att göra
En assistent kan föreslå svar på ett påhittat mejl. En agent med inkorgsbehörighet kan även skicka eller flytta innehåll. Rita upp de stegen innan ni frågar efter leverantörens färdiga mall och ge testet bara den behörighet uppgiften behöver.
Bygg ett stopp som går att prova
Kör ett test där underlaget är ofullständigt och ett där två uppgifter ser likadana ut. Kontrollera att försöket stannar vid oklarhet och att loggen visar vad som skulle ha hänt. Bestäm vem som tar över om ett uppdrag blir liggande eller körningen avbryts.
Källor och vidare läsning
- Automatiserat beslutsfattande | IMY
- Responsible AI FAQ for Cowork | Microsoft Learn
- Application card: Microsoft Copilot Cowork | Microsoft Learn
- Managing the cyber risk of agentic AI | National Cyber Security Centre
- Machine learning principles | Part 3: Secure deployment | 3.1 Protect information that could be used to attack your model | National Cyber Security Centre
- A playbook for agentic AI in local government | Local Government Association
- Understanding adversarial attacks against Machine Learning and AI | National Cyber Security Centre