zob. Automat albo agent, który działa sam, potrzebuje macierzy uprawnień: co automat czyta, co szkicuje, a co wykonuje sam.
| Operacja sklepu | Kontrola człowieka | |||
|---|---|---|---|---|
| Teksty reklam i kąty komunikacjiRola AI: szkic | AI | Szkice i pomysły są materiałem do przetestowania. Człowiek sprawdza wszystkie twierdzenia przed użyciem. | ||
| Opis produktuRola AI: szkic | AI | AI może przygotować szkic na potwierdzonych danych. Człowiek sprawdza wszystkie twierdzenia przed użyciem. | ||
| Odpowiedź klientowiRola AI: szkic | AI | Model może przygotować odpowiedź, ale nie powinien zgadywać stanu zamówienia. Rozdziel źródło faktów, szkic i decyzję człowieka. poradnik | ||
| Streszczenie opinii o produkcieRola AI: szkic | AI | Streszczenie to szkic. Człowiek porównuje je z opiniami, z których powstało. | ||
| Porządkowanie danych z arkuszyRola AI: szkic | AI | Kontroluj źródła i nie dopisuj brakujących faktów. | ||
| Weryfikacja twierdzeniaRola AI: sprawdzenie | AI | Model porządkuje twierdzenia; człowiek otwiera właściwe źródła i potwierdza ich zakres. | ||
| Test procesu AI na danych przykładowychRola AI: sprawdzenie | AI | Sprawdź brak danych, konflikt, zły format, nieuprawnioną decyzję i awarię. Dopiero taki test pokazuje, gdzie potrzebny jest człowiek. poradnik | ||
| Zwrot lub rozliczenieDecyzja: człowiek | człowiek | Decyzję i potwierdzenie rozliczenia podejmuje uprawniona osoba na podstawie systemu, nie modelu. | ||
| Ocena jakości towaruDecyzja: człowiek | człowiek | Decyduje człowiek. Potrzebna próbka. | ||
| Wiarygodność dostawcyDecyzja: człowiek | człowiek | Decyduje człowiek. Potrzebna weryfikacja. | ||
| Decyzja o budżecieDecyzja: człowiek | człowiek | Decyduje człowiek. Potrzebne Twoje liczby. | ||
| Zgodność z prawemDecyzja: człowiek | człowiek | Decyduje człowiek. Potrzebne źródło. |
Przykład syntetyczny: kontroluj źródła i nie dopisuj brakujących faktów.
Mapa nie przesyła informacji do AI i nie wykonuje procesu klienta.
Dobra zasada: AI przygotowuje materiał, człowiek podejmuje decyzję i bierze za nią odpowiedzialność.
Model może przygotować odpowiedź, ale nie powinien zgadywać stanu zamówienia. Rozdziel źródło faktów, szkic i decyzję człowieka.
Sprawdź brak danych, konflikt, zły format, nieuprawnioną decyzję i awarię. Dopiero taki test pokazuje, gdzie potrzebny jest człowiek.
Pracuj na przykładach syntetycznych i minimalnym zakresie danych. Model zwykle potrzebuje problemu, a nie nazwiska, adresu czy całej historii zamówienia.
Porównaj pełny przebieg zadania na podobnych przypadkach. Szybki szkic nie oznacza szybszego procesu.
Zapisz przypadek, naruszoną zasadę i poprawkę. Poprawienie jednej odpowiedzi nie dowodzi naprawy całego procesu.
Trzy poziomy uprawnień automatu w sklepie: odczyt, szkic i działanie. Macierz sześciu operacji, w której zwrot, cena i anulowanie czekają na człowieka.