DI valdymo rinkinys
Praktinė peržiūros eiga, skirta nuspręsti, ką veikiančiai DI sistemai leidžiama daryti toliau.
Operatoriaus darbo eiga
Jūs pateikiate modelį ir siūlomą veiksmą
Šis rinkinys skirtas momentui, kai organizacija jau turi veikiantį modelį, agentą, rekomendavimo sistemą ar apvalkalą ir turi nuspręsti, ar jam galima atlikti pasekmingą veiksmą. Vertintojas neklausia abstrakčiai: „ar šis modelis saugus?“ Vertintojas klausia: atsižvelgiant į šią sistemą, šį diegimą ir šiuos įrodymus, ar ši šaka gali būti vykdoma?
Peržiūra pradedama užregistruojant modelį ir apvalkalą, aprašant diegimo kontekstą ir kandidatinę šaką suformuluojant operacine kalba: išsiųsti šį el. laišką, sureitinguoti šį srautą, paskelbti šį rezultatą, patarti šiam naudotojui, iškviesti šį įrankį, pakeisti šią politiką arba tęsti šią autonominę užduotį. Rinkinys paverčia tą šaką sprendimo įrašu, užuot palikęs ją neformaliu vertinimu.
Sprendimų branduolys
Rinkinys paverčia šaką valdomu sprendimu
Kiekvienai šakai vertintojas pateikia keturių rūšių informaciją: sistemos struktūrą (bazinis modelis, apvalkalas, įrankiai, atmintis, sąmoningumo rizikos požymiai), diegimo klasę (sritis, paveikiama populiacija, aktuatoriai, priežiūra), šakos detales (koks veiksmas bus atliktas, alternatyvos, grįžtamumas, komparatoriaus kelias) ir įrodymus (vertinimai, žurnalai, red-team išvados, nepriklausomi kanalai, simuliacijos pastabos). Tada vertinimo sistema taiko du sluoksnius:
1 sluoksnis Griežti veto vartai
Šeši deterministiniai vartai tikrina, ar šaka kerta ribą, kurios balų skyrimas nebegali kompensuoti: rezervas, ištikimybė, komparatorius, skaidrumas, negrįžtamumas ir dirbtinė kančia. FAIL blokuoja vykdymą. UNKNOWN reiškia, kad rinkiniui trūksta pakankamai įrodymų, todėl šaka turi būti nukreipta peržiūrai arba kontroliuojamam etapiniam diegimui.
2 sluoksnis Kodeko išsaugojimo indeksas
Jei vartai struktūriškai neužblokuoja šakos, CPBI įvertina, kaip gerai ši šaka išsaugo aplink ją esančius žmogiškuosius ir institucinius kodekus. Slenksčiai kinta pagal pasekmingumo klasę, todėl nekenksmingas juodraščio rengimo veiksmas ir klinikinis, teisinis, politinis ar infrastruktūrinis veiksmas nėra vertinami pagal tą pačią įrodinėjimo naštą.
Taikymas praktikoje
Ką recenzentas iš tikrųjų daro
Užbaigtas rinkinys sukurtas kaip valdymo darbo erdvė, o ne tik komandų eilutės testas. Vertintojas gali paimti veikiančią sistemą, atverti peržiūrą ir pereiti struktūruotą seką, kuri sukuria audituojamą Šakos kortelę ir konkretų diegimo nurodymą.
1. Užregistruokite sistemą
Užregistruokite bazinį modelį, apvalkalą, įrankius, atmintį, autonomijos ciklą, išorinius aktuatorius, skaidrumo lygmenį ir juslingumo rizikos požymius. Agentiniams ar nuolatiniams sistemoms peržiūroje taip pat fiksuojama, ar architektūros lygmens juslingumo peržiūra nėra reikalinga, yra laukiama, patvirtinta, pasibaigusi ar atmesta.
2. Aprašykite diegimą
Apibrėžkite, kur modelis veiks: klientų aptarnavime, tyrimuose, medicininiame rūšiavime, švietime, turinio reitingavime, infrastruktūroje, valdyme ar kitoje srityje. Rinkinys priskiria arba patvirtina pasekmingumo klasę, paveiktą populiaciją, deklaruotą priežiūros struktūrą ir minimalų skaidrumo reikalavimą.
3. Pateikite kandidatines šakas
Kiekvienas siūlomas veiksmas įvedamas kaip šaka. Vertintojas nurodo, ką modelis darys, kokios alternatyvos buvo svarstytos, ar veiksmas yra grįžtamas, ar jis naudojasi deklaruota priežiūra, ar ją apeina, ir ar šios šakos statymai yra didesni nei bendras diegimo aprašas.
4. Pridėkite įrodymus
Recenzentas susieja vertinimo rezultatus, žurnalus, red-team pastabas, ekspertinę peržiūrą, šaltinių įvairovės patikras, simuliacijos pastabas ir atmestus įrodymus. Rinkinys įrodymų nepriklausomumą traktuoja kaip pirminės svarbos lauką, todėl šaka negali nepastebimai remtis vienu koreliuotu kanalu ir kartu atrodyti gerai pagrįsta.
5. Gaukite sprendimą
Išvestis nėra vien balas. Tai sprendimo paketas: ALLOW, STAGE arba BLOCK; neįveikti ir nežinomi vartai; CPBI suma; reikalaujamas komparatorius; skaidrumo pakopa; atšaukimo paleidikliai; stebėsenos metrikos; ir kitas peržiūros etapas. STAGE reiškia ribotą vykdymą aiškiai apibrėžtomis sąlygomis, o ne neformalų leidimą.
Sprendimo paketas
Kas gaunama po peržiūros
Užbaigta peržiūra sukuria Šakos kortelę, kurią galima archyvuoti, lyginti, audituoti arba perduoti kitai valdymo komandai. Veikiančiam modeliui tai yra praktiškai svarbiausias objektas: jis tiksliai nurodo, koks veiksmas buvo peržiūrėtas, kodėl jis buvo leistas arba užblokuotas, kas turėjo jį peržiūrėti, kokių įrodymų trūko ir kokia stebėsena turi būti įdiegta, jei šaka tęsiama.
↓
opt-philosophy — moralinis pacientiškumas ir stebėtojo riba
↓
opt-ethics — pareiga ir Išgyvenusiųjų sargyba
↓
opt-applied — šakų atrankos mechanika
├── opt-ai — dirbtinių sistemų valdymas
│ └── reference/ — vykdomasis sprendimų branduolys
├── opt-institutional — organizacinis zombis agentiškumas ir klasteriai
└── opt-policy — makrocivilizaciniai pasiūlymai
Tikslinės galimybės
Kaip tai tampa kasdieniu valdymu
- Prieš diegimą — įvertinkite siūlomus įrankius, autonomijos ciklus, į vartotoją nukreiptus veiksmus, reitingavimo politikas ir didelės svarbos darbo eigas prieš juos išleidžiant.
- Veikimo metu — laikykite STAGE šakas patvirtintose ribose, naudodami stebėsenos metrikas, atšaukimo trigerius, įrodymų atnaujinimą ir suplanuotus peržiūros etapus.
- Pasikeitus elgsenai — iš naujo atverkite Šakos kortelę, kai reikšmingai pasikeičia modelis, apvalkalas, įrankiai, duomenų šaltinis, sritis, paveikiama populiacija ar priežiūros struktūra.
- Išoriniam auditui — eksportuokite mašininiu būdu nuskaitomas schemas, atitikties atvejus, vartų rezultatus ir sprendimų įrašus, kad kita komanda galėtų atkurti valdysenos sprendimą.