Human-off-the-loop
Vad är Human-off-the-loop?
Human-off-the-loop är en princip där AI:n agerar helt självständigt utan att en människa övervakar eller kan ingripa i realtid. Det är den mest autonoma nivån efter HITL (human-in-the-loop), där människan godkänner varje åtgärd, och HOTL (human-on-the-loop), där människan övervakar och kan avbryta. Här har människan klivit av loopen helt: systemet startar, beslutar och slutför uppgiften på egen hand. Tänk dig en algoritmisk handelsrobot som köper och säljer på millisekunder, långt snabbare än någon människa hinner granska.
Nivån används när besluten är för snabba eller för många för mänsklig tillsyn, eller när uppgiften har tillräckligt låg risk för att inte behöva den. Baksidan är att fel kan skala okontrollerat innan någon hinner upptäcka dem, vilket gör att kritiska och känsliga beslut sällan bör ligga här. Den mer formella termen är human-out-of-the-loop (HOOTL), och var gränsen för lämplig autonomi ska gå är en central fråga inom AI-styrning.
Ursprung och källa
Del av samma taxonomi för mänsklig tillsyn av autonoma system som HITL och HOTL, med rötter i forskning om AI-styrning och autonoma vapensystem