Skip to main content
6. avgust 2026

Preverjanje s človeškim nadzorom za fizično umetno inteligenco — zagotavljanje varnosti, natančnosti in zaupanja v podatke za robotiko

AI robotika
Delite ta članek

Zakaj je kakovost nova konkurenčna prednost

V tekmi za uvedbo robotov, dronov in avtonomnih vozil je hitrost pomembna — vendar sta varnost in zaupanje še pomembnejša. Ena napačno označena stvar lahko povzroči drage napake ali varnostne incidente. Zato se vodilna podjetja na področju umetne inteligence odločajo za preverjanje s človeškim nadzorom (Human-in-the-Loop, HITL), da zagotovijo zanesljivo delovanje svojih modelov v neurejenih okoljih.

Skriti stroški slabih podatkov

Ko so modeli umetne inteligence učeni na napačnih ali pristranskih podatkih, so posledice eksponentne:

  • Lažni zaznavi v robotskem vidu.
  • Napačno razvrščeni predmeti v AV navigaciji.
  • Napačni rezultati združevanja podatkov senzorjev.
  • Zmanjšan povprečni čas do okvare pri samodejnem delovanju.

Slabi podatki ustvarijo slab AI — in slab AI lahko povzroči nevarne posledice v resničnem svetu. Zato je pri Uber AI Solutions HITL v središču njihovega okvira za preverjanje podatkov z 98-odstotno natančnostjo.

Anatomija HITL-potrjevalnega procesa za fizično umetno inteligenco

Vnos podatkov in predhodno preverjanje

Surovi multimodalni podatkovni nabori (video, lidar, radar, telemetrija) se uvažajo v platformo uLabel podjetja Uber, kjer se samodejno preverja podvojene podatke, manjkajoče sličice in poravnavo senzorjev.

Označevanje z zlatimi nabori podatkov

Anotatorji označujejo podatke glede na »zlati standard«, ki so ga predhodno odobrili strokovnjaki za določeno področje, da se zagotovi soglasje med anotatorji (IAA) nad 70 % in doslednost med serijami.

Pregled s soglasjem več razsodnikov

Vsak vzorec pregleda več ocenjevalcev v modelu soglasja z 2 ali 3 ocenjevalci. V primeru nesoglasij sledijo dodatni krogi preverjanja, dokler ni dosežena končna soglasna ocena.

Samodejne meritve kakovosti

Orodja družbe Uber v realnem času izračunajo Cohenov Kappa in ocene ujemanja med komentatorji. Padci kakovosti sprožijo samodejno oznako za ponovno človeško oceno.

Povratne informacije in ponovno usposabljanje

Vpogledi iz revizij se uporabljajo za izboljšanje izobraževalnih vsebin in evalvacijskih skriptov modela — s čimer zagotavljamo stalno izboljševanje in zmanjševanje pristranskosti.

Človeška presoja združena z avtomatizacijo z umetno inteligenco

Prednost pristopa HITL je v ravnovesju med ljudmi in stroji:

  • pregled s pomočjo umetne inteligence: samodejno označevanje nepravilnosti na podlagi ocen samozavesti modela.
  • Samozdravilni skripti: Samodejno označevanje nepravilnosti na podlagi ocen samozavesti modela.
  • Človeški pregledi: Strokovnjaki za domeno potrjujejo obrobne primere, kot so okluzije, odsevi ali redki dogodki.
  • Nenehno učenje: Povratne informacije posodabljajo modele označevanja in izboljšujejo označevanje v naslednjih krogih.

Ta sinergija ustvarja proces, ki se samostojno izboljšuje in v katerem se kakovost in učinkovitost povečujeta skupaj.

Omejevanje pristranskosti in izboljšanje varnosti s človeškim nadzorom

Pristranskost umetne inteligence lahko povzroči nevarne fizične posledice — od napačne prepoznave delavcev pri prepoznavanju obrazov do tega, da roboti zaradi napake dajejo prednost določenim predmetom.

Okvir HITL rešitve Uber AI pomaga zgodaj zaznati in odpraviti takšno pristranskost z:

Uporaba raznolikih skupin označevalcev v različnih jezikih in regijah.

Uporaba preverjanja pristranskosti pri vzorčenju podatkov in razporeditvi oznak.

Izvajamo kontrafaktualno testiranje za preverjanje pravičnih rezultatov.

Zagotavljanje preglednosti glede izvora podatkovnega nabora.