Kongresa sēdes ir kļuvušas par definējošu mehānismu, lai veidotu mākslīgā intelekta (AI) un tehnoloģiju ētikas trajektoriju ASV. Tā kā AI sistēmas ir pakļautas svarīgām nozarēm – veselības aprūpei, krimināltiesisko algoritmu, autonomu transportlīdzekļu un finanšu lēmumu pieņemšanai –, nepieciešamība pēc stingras uzraudzības un informētas politikas veidošanas nekad nav bijusi steidzamāka. Šīs uzklausīšanas ir publiskais forums, kurā likumdevēji, tehnologi, etiķi, nozares vadītāji un pilsoniskā sabiedrība var pārbaudīt jaunos riskus, debatēt par ētikas aizsargraipiem un izpētīt tiesību aizsardzības līdzekļus.

Kongresu pārraudzīšana tehnoloģiju jomā

Kongresa tehnoloģiju uzraudzība nav nekas jauns. No radio un televīzijas pirmsākumiem līdz interneta un sociālo mediju attīstībai likumdošanas uzklausīšanas ir periodiski apnikušas ar inovāciju sociālajām sekām. Tomēr pašreizējā mākslīgā intelekta ēra rada unikālas problēmas: AI sistēmas nav statiski produkti, bet adaptīvs, nepārredzams un bieži vien neprognozējams. AI attīstības ātrums – kas rādījies ar lēcieniem lielo valodu modeļos, ģeneratīvajā AI un autonomajās sistēmās – ir apsteidzis tradicionālo likumdošanas ciklu. Līdz ar to uzklausīšanas ir kļuvušas par būtisku Kongresa instrumentu, lai panāktu, izglītotu sevi un signalizētu par normatīvo nodomu.

Pirmās augsta līmeņa AI uzklausīšanas sanāksmes 2010. gados galvenokārt pievērsās automatizācijas un darba pārvietošanas ekonomiskajai ietekmei. Līdz 2010. gadu beigām un 2020. gadu sākumam diskurss paplašinājās, iekļaujot tajā algoritmisko aizspriedumu, sejas atpazīšanas moratoriju un uzraudzības tehnoloģiju ētisko ietekmi. 2023.–2024. gada uzklausīšanas sanāksmju sērija, kurā piedalījās vadošo AI uzņēmumu vadītāji, piemēram, OpenAI, Google un Microsoft, iezīmēja pagrieziena punktu. Šīs sesijas piesaistīja nepieredzētu sabiedrības uzmanību un uzsvēra, ka ētikas sistēmu izveide ir steidzama, pirms AI spējas pārsniedz normatīvās robežas.

Galvenās AI uzklausīšanas sanāksmju uzmanības jomas

Mūsdienu kongresu noklausīšanās par MI un tehnoloģiju ētiku konsekventi riņķo ap vairākām pamattēmām. Katra domēna atspoguļo atšķirīgu plašāku ētikas un regulējuma problēmu.

Privātuma un datu drošība

AI sistēmas ir ļoti vērīgs datu patērētājs. Uzklausīšanas atkārtoti pievēršas tam, kā uzņēmumi vāc, uzglabā un izmanto personisko informāciju, lai apmācītu modeļus. Liecinieki bieži liecina par datu pārkāpumiem, neatļautu datu sekundāru izmantošanu un patērētāju piekrišanas mehānismu neatbilstību. Likumdevēji izprot, cik lielā mērā privātuma likumi – piemēram, Veselības apdrošināšanas pārnesamības un atbildības likums (HIPAA) un Bērnu tiešsaistes privātuma aizsardzības likums (COPPA) – joprojām ir pakļauti AI mācību cauruļvadiem. Visaptveroša federālā privātuma likuma trūkums Amerikas Savienotajās Valstīs joprojām ir periodiska neapmierinātība, un liecinieki aicina izstrādāt tiesību aktus, kas līdzīgi Eiropas Savienības Vispārējai datu aizsardzības regulai (GDPR), bet ir pielāgoti AI unikālajām prasībām.

Bijas un godīgums

Algoritmiskā aizspriedumi ir centrāls ētikas jautājums. Kongresa sēdēs ir izskatīti gadījumi, kad AI sistēmas diskriminētas, pamatojoties uz rasi, dzimumu vai sociālekonomisko statusu darbā, aizdodot, un krimināltiesvedībā. Piemēram, uzklausīšanas par prognozējošiem policijas algoritmiem atklāja, kā vēsturiskie dati var iemūžināt sistēmisku diskrimināciju. Likuminieki apšauba metodes, kas izmantotas, lai pārbaudītu neobjektivitāti, mācību datu daudzveidību un atbildības mehānismus, kad rodas neobjektīvi rezultāti. Diskusija bieži noved pie priekšlikumiem obligātai augsta riska AI sistēmu revīzijai un pirmsizvēršanas taisnīguma novērtējumiem.

Pārredzamība un izskaidrojamība

Daudzas MI sistēmas, īpaši dziļi nervu tīkli, darbojas kā "melnās kastes" – to iekšējie lēmumu pieņemšanas procesi ir neskaidri pat to izstrādātājiem. Uzklausīšanas pēta pieprasījumu pēc izskaidrojamības, īpaši kontekstā, kad AI lēmumi tieši ietekmē individuālās tiesības, piemēram, kredītpunktu vai medicīnisko diagnostiku. Liecinieki debatē par to, cik iespējams interpretēt modeļus, salīdzinot ar sarežģītu modeļu izpildījuma kompromisiem. Likumdevēji mudina pēc dokumentācijas standartiem, piemēram, karšu vai datu lapu modeļiem datu kopām, lai uzlabotu pārredzamību. Saspīlējums starp patentētu noslēpumu un sabiedrības atbildību ir atkārtots uzliesmojums.

Atbildība un atbildība

Kad AI sistēma rada kaitējumu – pašbraucoša auto avārija, kļūdains arests sejas atpazīšanas kļūdas dēļ vai algoritmisks pabalstu noliegums – kurš ir atbildīgs? Kongresa sēdes ir saistītas ar atbildības sistēmām, kas nepieciešamas, lai risinātu šādus scenārijus. Liecinieki no juridiskām augstskolām, apdrošināšanas nozarēm un tehnoloģiju uzņēmumiem piedāvā pretrunīgus uzskatus. Daži apgalvo par stingru atbildību par izstrādātājiem; citi ierosina pienākumu aprūpes standartu; vēl citi aizstāv ierobežotas atbildības vairogu, lai veicinātu inovāciju. "algoritmiskā atbildība" koncepcija ir iedvesmojusi ierosinātos federālos tiesību aktus, tostarp Algoritmiskās atbildības likumu, kas prasītu ietekmes novērtējumu automatizētajām lēmumu pieņemšanas sistēmām.

Drošība un drošums

Augsti attīstīto MI sistēmu drošība, jo īpaši tādu sistēmu drošība, kurām ir potenciāls izraisīt ļaunprātīgu izmantošanu vai katastrofālu neveiksmi, ir kļuvusi par svarīgu uzklausīšanas tēmu. Eksperti apliecina kiberuzbrukumu, autonomu ieroču risku un "neatbilstības iespēju" iespējamību, ja AI sistēmas tiecas sasniegt neparedzētus mērķus. Likumdevēji pēta nepieciešamību veikt pirmsizlaišanas pārkomandas, neatkarīgus drošības auditus un pat moratorijus attiecībā uz dažiem augsta riska notikumiem. Diskusijās bieži vien atsauces sistēmas, piemēram, Valsts standartu un tehnoloģiju institūts (NIST) AI Riska vadības sistēma un starptautiskās iniciatīvas, piemēram, Blečlija deklarācija par AI drošību.

Ietekme uz nodarbinātību un darbaspēku

Automatizācijas trauksme ir bijusi galvenais elements AI uzklausīšanas no sākuma. diskurss ir attīstījusies ārpus vienkāršas darba zaudēšanas prognozes, lai iekļautu darba pārveidošanas, nepieciešamību pārkvalificēšanās programmas, un potenciāls, lai AI palielināt cilvēka darbu. Uzklausīšanas pārbauda nozares specifisko ietekmi – ražošana, klientu apkalpošana, juridiskā pētniecība, žurnālistika - un debatē par esošo sociālās drošības tīklu atbilstību. Likumdevēji bieži aicina arodbiedrību pārstāvji un darbaspēka attīstības eksperti, lai nodrošinātu uz zemes līmeņa perspektīvas. Universālie pamata ienākumi (UBI) reizēm ir virsmas kā ilgtermiņa politikas reakciju, lai gan tas joprojām ir pretrunīgs.

Valsts drošības un ģeopolitiskā konkurence

AI ir valsts drošības stratēģijas būtisks elements. Uzklausīšanas Senāta Bruņoto pakalpojumu komitejā un House Homeland drošības komitejā risina militāros AI pieteikumus, sākot no dronu bariem līdz izlūkošanas analīzei. Likumdevēji arī apsver konkurences dinamiku ar Ķīnu un citām valstīm, kas iegulda lielus līdzekļus AI. Aizstāvības amatpersonu un izlūkošanas kopienu vadītāju liecība uzsver nepieciešamību saglabāt tehnoloģisko pārākumu, vienlaikus pārvaldot ētiskās robežas karadarbībā. Diskusija par nāvējošām autonomām ieroču sistēmām (LAWS) joprojām ir aktīva, cilvēktiesību aizstāvjiem uzstājot uz priekšlaicīgu aizliegumu.

Ietekme uz politiku un reglamentējošiem noteikumiem

Kongresa sēdes nav tikai saruna, tās tieši informē likumdošanas cauruļvadību. Pēc lielām noklausīšanās reizēm iesniegtie rēķini bieži vien ietver liecības laikā paustās bažas un ieteikumus. Piemēram, Algoritmiskās atbildības likums, kas pirmo reizi ieviests 2019. gadā un atkārtoti ieviests nākamajās sesijās, ir nepārprotami balstīts uz uzklausīšanas liecībām par aizspriedumiem un pārredzamību. Ierosinātais AI tiesību likums, ko izlaida Baltās mājas Zinātnes un tehnoloģiju politikas birojs, tāpat tika ņemts vērā diskusijās par civiltiesību aizsardzību.

Uzklausīšanas arī paātrina reglamentējošu darbību aģentūras līmenī. Pēc uzklausīšanās par sejas atzīšanu Federālā tirdzniecības komisija (FTC) palielināja izpildi pret maldinošu AI praksi. Tirdzniecības departaments izveidoja AI drošības institūtu pēc tam, kad tika uzklausīti pierādījumi par nepieciešamību standartizēta testēšana. Kamēr Kongress turpina apsvērt visaptverošu AI tiesību aktu, uzklausīšanas kalpo kā piespiedu funkcija pagaidu pasākumiem un nozares pašregulācijai. Vairāki lielākie tehnoloģiju uzņēmumi paziņoja brīvprātīgas saistības AI drošības un pārredzamības jomā pēc augsta līmeņa uzklausīšanas, signalizējot, ka tiesību aktu draudi var veidot korporatīvo uzvedību pat pirms likumu pieņemšanas.

Neraugoties uz šo ietekmi, kritiķi norāda, ka uzklausīšanas var novest pie izpildes pārraudzības bez konkrētas turpmākas ietekmes. Tiesību akti bieži apstājas tāpēc, ka partizānu nesaskaņu dēļ par regulējuma darbības jomu, valsts tiesību aktu premisu vai atbildības noteikumiem. Tomēr atkārtotās uzklausīšanas kumulatīvā ietekme uz tematu ir apliecinājums, ko var izmantot nākamie politikas veidotāji.

Ekspertu liecības un sabiedrības ieguldījums

Kongresa uzklausīšanas panākumi ir atkarīgi no liecinieku kvalitātes un daudzveidības. Komitejas parasti aicina pārstāvjus no lielākajiem tehnoloģiju uzņēmumiem, akadēmiskajiem pētniekiem, pilsoniskās sabiedrības organizācijām un valdības aģentūrām. Ētikas un juridisko zinātnieku klātbūtne nodrošina, ka morālās un filozofiskās dimensijas saņem gaisa laiku. Pēdējos gados ir bijis spiediens iekļaut cilvēku balsis, kuras tieši ietekmē AI kaitējums, piemēram, kopienas, kas pakļautas neobjektīvai policijas vai darba ņēmēju pārvietošanai automatizācijas. Šī maiņa atzīst, ka ētika ir ne tikai teorētiska, bet dzīvoja.

Sabiedrības līdzdalība sniedzas ārpus liecinieku liecības. Uzklausīšanas tiek pārraidītas tiešraidē, radot mediju atspoguļojumu un publisku diskursu. Advokātu grupas izmanto uzklausīšanas spiediena likumdevējiem, mobilizējot savus vēlētājus. Atklātais ieraksts par dzirdes atšifrējumiem un video kļūst par pētnieku, žurnālistu un pedagogu resursu. Dažas komitejas ir eksperimentējušas ar virtuālām liecībām un rakstītiem publiskiem komentāriem, lai paplašinātu līdzdalību.

Tomēr formātam ir ierobežojumi. Ekspertiem lieciniekiem bieži vien ir tikai dažas minūtes, lai runātu, kam seko ātri uguns jautājumi. Pretinieku dinamika var atturēt niansētas diskusijas. Likumdevēji dažreiz izmanto jautājumus, lai sniegtu politiskus jautājumus, nevis vāktu informāciju. Neskatoties uz šiem trūkumiem, uzklausīšanas joprojām ir viens no redzamākajiem veidiem, kā Kongress iesaistās sarežģītos tehnoloģiskajos jautājumos.

Uzklausīšanas procesa izaicinājumi un kritika

Lai gan kongresa uzklausīšanas ir vitāli svarīgi, viņi saskaras ar būtisku kritiku. Pirmkārt, tempa neatbilstība: AI attīstās mēnešos, kamēr Kongress pārvietojas gados. Līdz laikam, kad notiek uzklausīšana un tiek izstrādāts tiesību akts, tehnoloģija var jau būt apsteidzis ierosinātos noteikumus. Otrkārt, tehniskā sarežģītība AI bieži pārsniedz tipisko likumdevēju kompetenci. Daudzi locekļi lielā mērā paļaujas uz darbinieku instruktāžu un partiju līnijas pozīcijām, kas noved pie virspusēja nopratināšanas. Treškārt, uzklausīšanas var kļūt par stadiju pārvaldītiem notikumiem, kuros liecinieki un likumdevēji par prioritāti izvirza runājošus punktus pār patiesu izmeklēšanu. Ceturtkārt, partizānu polarizācija bieži nonāk uzklausīšanā, ar AI ētiku kļūstot par ķīļjautājumu, nevis partišķisku rūpi.

Vēl viens izaicinājums ir jurisdikcijas izplešanās. AI skar gandrīz visas komitejas: Tiesu iestādes, komercija, enerģētika, bruņotie pakalpojumi, veselība, izglītība un citas. Šī sadrumstalotība var novest pie nekonsekventas ziņojumapmaiņas un regulējuma nepilnībām. Centieni izveidot īpašu kongresa komisiju par AI ir ierosināta, bet vēl nav realizēta. Turklāt, rotējošās durvis starp valdību un nozari rada jautājumus par normatīvo notveršanu, jo uzklausīšanas liecinieki bieži vien ir interešu konflikti.

Starptautiskie salīdzinājumi: mācīšanās no citiem pārvaldības modeļiem

Piemēram, Eiropas Savienība ir izstrādājusi uz risku balstītu regulējumu, kas klasificē AI pieteikumus pēc kaitējuma potenciāla un uzliek atbilstošus pienākumus. Liecinieki bieži min ES pieeju kā modeli, lai gan arī ievēro atšķirības tiesiskajā kultūrā un izpildes spējā. Apvienotās Karalistes AI Drošības institūts un Ķīnas algoritmu ieteikumu sistēmu tiesiskais regulējums piedāvā pretrunīgus valsts virzītas pārvaldības un nozares virzītas pārvaldības piemērus.

Dažreiz uzklausīšanā piedalās ārvalstu eksperti vai starptautisko organizāciju pārstāvji, piemēram, Ekonomiskās sadarbības un attīstības organizācija (ESAO), kas publicējusi AI principus. Šī apmaiņa palīdz ASV likumdevējiem salīdzināt vietējos centienus ar pasaules standartiem un apsvērt sadarbspējas jautājumus. Vajadzība pēc starptautiskas koordinācijas ir aktuāla tēma, īpaši attiecībā uz pārrobežu AI modeļiem, kurus var izmantot pāri robežām.

Priekšplānā: ieteikumi efektīvai pārvaldībai

Tā kā AI turpina attīstīties, ir jāattīsta veids, kādā Kongress vada uzklausīšanas. Vairāki uzlabojumi ir ieteikti novērotāji. Pirmkārt, komitejām ir jāiegulda tehniskās zināšanas - izmantojot bezpartejiskos birojus, stipendijas vai starpaģentūru detaļas - lai asinātu jautājumu. Otrkārt, uzklausīšanas būtu jāstrukturē tā, lai ļautu dziļākas niršanas, iespējams, izmantojot daudzdienu sesijas vai mazākas darba grupas. Treškārt, Kongresam būtu jāstandartizē skarto kopienu un frontes praktizētāju, ne tikai vadītāju un akadēmisko aprindu iekļaušana. Ceturtkārt, uzklausīšanas būtu skaidri jārisina ilgtermiņa riski kopā ar tūlītējiem kaitējumiem, tostarp eksistenciāliem drošības apsvērumiem.

No politikas puses uzklausīšanas, visticamāk, informēs par turpmāko vispārējo AI likumu. Potenciālie elementi ietver obligātus riska novērtējumus attiecībā uz augstas ietekmes sistēmām, apstiprinājumu pirms laišanas tirgū noteiktiem lietojumiem (piemēram, medicīnas AI), atbildības noteikumus attiecībā uz autonomām sistēmām, federālos AI likumu premisas, kā arī ilgstošu finansējumu AI drošības pētījumiem. Kongresa uzklausīšanas turpinās būt tīģelis, kurā šīs idejas tiek pārbaudītas un pilnveidotas.

Galu galā mākslīgā intelekta un tehnoloģiju ētikas nākotni veidos ne tikai inženieri un uzņēmēji, bet arī demokrātiskie procesi, ko pārstāv kongresos notiekošās uzklausīšanas. Tie ir forums sabiedrības apsvērumu dēļ, korporatīvās varas pārbaude un atgādinājums, ka tehnoloģijai ir jākalpo cilvēka vērtībām. 119. kongresam sanākot un parādoties jauniem AI atklājumiem, dzirdes telpa joprojām ir viena no svarīgākajām vietām, kur tiek veidotas mūsu algoritmiskās nākotnes ētiskās kontūras.

Ārējie resursi tālākai lasīšanai: