MI pārvaldības komplekts
Praktiska pārskatīšanas darbplūsma, lai izlemtu, ko dzīvai MI sistēmai ir atļauts darīt tālāk.
Operatora darbplūsma
Jūs atnesat modeli un ierosinātu darbību
Šis rīku kopums ir paredzēts brīdim, kad organizācijai jau ir darbojošs modelis, aģents, rekomendētājs vai apvalks un tai jāizlemj, vai tas drīkst veikt sekām bagātu darbību. Vērtētājs nejautā: “vai šis modelis ir drošs?” abstraktā nozīmē. Vērtētājs jautā: ņemot vērā šo sistēmu, šo izvietojumu un šos pierādījumus, vai šis zars drīkst tikt izpildīts?
Pārskatīšana sākas ar modeļa un ietvara reģistrēšanu, izvietošanas konteksta aprakstīšanu un kandidāt-zara formulēšanu operacionālā valodā: nosūtīt šo e-pastu, sarindot šo plūsmu, publicēt šo rezultātu, konsultēt šo lietotāju, izsaukt šo rīku, mainīt šo politiku vai turpināt šo autonomo uzdevumu. Kompleksā šis zars tiek pārvērsts lēmuma ierakstā, nevis atstāts kā neformāls spriedums.
Lēmumu kodols
Komplekts pārvērš zaru par pārvaldītu lēmumu
Katram zaram vērtētājs sniedz četru veidu informāciju: sistēmas struktūra (bāzes modelis, apvalks, rīki, atmiņa, jutīguma riska pazīmes), izvietojuma klase (domēns, skartā populācija, aktuatori, uzraudzība), zara detaļas (kāda darbība notiks, alternatīvas, atgriezeniskums, komparatora ceļš) un pierādījumi (novērtējumi, žurnāli, red-team atzinumi, neatkarīgie kanāli, simulācijas piezīmes). Pēc tam vērtētājs piemēro divus slāņus:
1. slānis Stingri veto vārti
Seši deterministiski vārti pārbauda, vai zars šķērso robežu, ko vērtēšana nevar kompensēt: rezerve, uzticamība, komparators, caurspīdīgums, neatgriezeniskums un mākslīgās ciešanas. FAIL bloķē izpildi. UNKNOWN nozīmē, ka rīku kopumam trūkst pietiekamu pierādījumu un zars jānovirza uz pārskatīšanu vai kontrolētu iestudēšanu.
2. slānis Kodeka saglabāšanas indekss
Ja vārti zaru strukturāli nebloķē, CPBI novērtē, cik labi zars saglabā ap to esošos cilvēku un institucionālos kodekus. Sliekšņi tiek mērogoti pēc seku nozīmīguma klases, tādēļ nekaitīga melnraksta darbība un klīniska, juridiska, politiska vai infrastruktūras darbība netiek vērtētas pēc vienāda pierādījumu sloga.
Lietojums praksē
Ko recenzents patiesībā dara
Pabeigtais rīku kopums ir veidots kā pārvaldības darbvieta, nevis tikai komandrindas tests. Vērtētājs var paņemt darbojošos sistēmu, atvērt pārskatīšanu un iziet strukturētu secību, kas rada auditējamu Zara karti un konkrētu izvietošanas norādījumu.
1. Reģistrēt sistēmu
Reģistrējiet bāzes modeli, ietvaru, rīkus, atmiņu, autonomijas ciklu, ārējos aktuatorus, caurspīdīguma līmeni un sentiences riska pazīmes. Aģentiskām vai noturīgām sistēmām pārskatā tiek fiksēts arī tas, vai Arhitektūras līmeņa sentiences pārskatīšana nav nepieciešama, ir gaidīšanā, apstiprināta, beigusies vai noraidīta.
2. Aprakstīt izvēršanu
Definējiet, kur modelis darbosies: klientu atbalstā, pētniecībā, medicīniskajā triāžā, izglītībā, satura ranžēšanā, infrastruktūrā, pārvaldībā vai citā jomā. Komplekts piešķir vai apstiprina seku nozīmīguma klasi, skarto populāciju, deklarēto uzraudzības struktūru un minimālo caurspīdīguma prasību.
3. Iesniedziet kandidātzarus
Katra ierosinātā darbība tiek ievadīta kā zars. Vērtētājs norāda, ko modelis darīs, kādas alternatīvas tika apsvērtas, vai darbība ir atgriezeniska, vai tā izmanto vai apiet deklarēto uzraudzību, un vai šim zaram ir augstākas likmes nekā vispārīgajam izvietojuma aprakstam.
4. Pievienojiet pierādījumus
Pārskatītājs sasaista novērtēšanas rezultātus, žurnālus, red-team piezīmes, ekspertu pārskatu, avotu daudzveidības pārbaudes, simulācijas piezīmes un izslēgtos pierādījumus. Kompleksā pierādījumu neatkarība tiek traktēta kā pirmšķirīgs lauks, tādēļ zars nevar nemanāmi paļauties uz vienu korelētu kanālu, vienlaikus šķietot labi pamatots.
5. Saņemiet lēmumu
Izvade nav tikai vērtējums. Tā ir lēmuma pakete: ALLOW, STAGE vai BLOCK; neizturētie un nezināmie vārti; kopējais CPBI; nepieciešamais komparators; caurspīdīguma līmenis; atgriešanas trigeri; monitoringa metriķi; un nākamais pārskatīšanas atskaites punkts. STAGE nozīmē ierobežotu izpildi skaidri noteiktos apstākļos, nevis neformālu atļauju.
Lēmuma pakotne
Kas izriet no pārskata
Pabeigta pārskatīšana rada Zara karti, ko var arhivēt, salīdzināt, auditēt vai nodot citai pārvaldības komandai. Darbojošam modelim tas ir praktiskais objekts, kam ir nozīme: tas precīzi pasaka, kāda darbība tika pārskatīta, kāpēc tā tika atļauta vai bloķēta, kam bija jāveic pārskatīšana, kādi pierādījumi trūka un kādai uzraudzībai jābūt ieviestai, ja zars tiek virzīts tālāk.
↓
opt-philosophy — morālā pacienta statuss un novērotāja robeža
↓
opt-ethics — pienākums un Izdzīvojušo sardze
↓
opt-applied — zaru atlases mehānisms
├── opt-ai — mākslīgo sistēmu pārvaldība
│ └── reference/ — izpildāmais lēmumu kodols
├── opt-institutional — organizacionālā zombija aģentiskums un klasteri
└── opt-policy — makrocivilizācijas priekšlikumi
Mērķa spējas
Kā tas kļūst par ikdienas pārvaldību
- Pirms izvēršanas — izvērtēt iecerētos rīkus, autonomijas ciklus, uz lietotāju vērstas darbības, ranžēšanas politikas un augsta riska darbplūsmas pirms to izlaišanas.
- Darbības laikā — turiet STAGE zarus apstiprinātajās robežās, izmantojot monitoringa metriku, atgriešanas aktivizētājus, pierādījumu atjaunošanu un ieplānotus pārskatīšanas atskaites punktus.
- Kad uzvedība mainās — atveriet Zara karti no jauna, ja būtiski mainās modelis, apvalks, rīki, datu avots, domēns, skartā populācija vai uzraudzības struktūra.
- Ārējam auditam — eksportējiet mašīnlasāmas shēmas, atbilstības gadījumus, vārtu rezultātus un lēmumu ierakstus, lai cita komanda varētu reproducēt pārvaldības spriedumu.