Mga Madalas Itanong tungkol sa AI

Ang lahat ng mga ahensiya, kabilang ang sangay ng tagapagpaganap, mas mataas na edukasyon at mga independiyenteng ahensiya, ay dapat sumangguni sa listahan ng mga CAM at Iba pang mga Pakikipag-ugnayan ng VITA para sa tulong.

Ang mga karagdagang tanong ay maaaring ipadala sa: vccc@vita.virginia.gov. 

Para sa mga teknikal na tanong tungkol sa mga tiyak na teknolohiya ng AI, mangyaring makipag-ugnayan sa inyong nakatalagang EA.

Ayon sa Pamantayan ng Patakaran sa Paggamit ng Artificial Intelligence ng COV, lahat ng mga ahensiya ng sangay ng tagapagpaganap (ayon sa kahulugan ng terminong iyon sa EO 30) ay dapat irehistro ang kanilang paggamit ng mga panloob at panlabas na sistema ng AI para sa pangangasiwa at pag-apruba upang matiyak ang mapagkakatiwalaan, ligtas, at ligtas na paggamit ng naturang mga sistema.

Pagpaparehistro at Pag-apruba ng Artificial Intelligence ay isang proseso na may maraming hakbang na nangangailangan ng pagpaparehistro sa Archer at mga pag-apruba sa Planview mula sa VITA, pinuno ng inyong ahensiya, at inyong kalihim (para lamang sa panlabas na AI). Kung may mga tanong ka tungkol sa proseso ng pagrerehistro ng inyong teknolohiyang AI sa Archer, makipag-ugnayan sa inyong itinalagang EA. Kung may mga katanungan ka tungkol sa Planview, makipag-ugnayan sa inyong itinalagang tagasuri ng ITIMD.

Bagamat walang eksensiyon sa EO 30 para sa mga kasalukuyang paggamit ng AI, hindi lahat ng paggamit ay kailangang irehistro. Kapag may pag-aalinlangan, tanungin ang iyong itinalagang EA.

• Kung natutugunan ng solusyon ng AI ang lahat ng tatlo sa sumusunod na pamantayan, hindi kinakailangan ang pagpaparehistro:

• Nakikita sa panloob na operasyon
• Hindi gumagamit ng mga datos ng tao
• Hindi kasama sa isang sistema ng produksiyon (ang mga halimbawa ng mga sistemang hindi produksiyon ay ang sandbox, mga sistema ng pagbuo at pagsubok na gumagamit ng sintetiko o pampublikong magagamit na mga datos)

• Kung natutugunan ng solusyon ng AI ang alinman sa sumusunod na mga kondisyon, kinakailangan ang pagpaparehistro:

• Nakikita ng publiko
• Gumagamit ng mga datos ng tao
• Ginamit sa sistema ng produksiyon
• Sinusuportahan ang mga proseso ng mahahalagang misyon o kritikal na tungkulin
• Naglalaman ng sensitibong mga datos ayon sa itinakda sa SEC-530 Pamantayan sa Seguridad ng Impormasyon
• Nangangailangan ng pagsusuri ng COV Ramp para sa pagtataya ng mga serbisyong cloud

Ang anumang paggamit ng AI, kabilang ang paggamit ng mga libre at malawak na ginagamit na produkto, ay dapat makatanggap ng pag-apruba gamit ang prosesong nakabalangkas sa mga pamantayan. Kung walang opisyal na pag-apruba, hindi dapat ipatupad ang anumang produktong AI ng sinumang opisyal ng ahensiya ng estado, kabilang ang pag-download ng mga libreng produkto sa mga IT device ng Estado o paggamit ng naturang mga produkto para sa opisyal na negosyo.

Ayon sa parehong EO 30 at sa mga Pamantayan ng AI, ang proseso ng pag-apruba ay nilayon upang matiyak na ang mga ahensiya ng Commonwealth ay gumagamit ng AI sa paraang pinangangalagaan ang mga datos ng mga mamamayan, nagpoprotekta laban sa mga may kinikilingang mga application, at may katuturan mula sa pananaw ng negosyo. Ang mga produktong malayang magagamit, katulad ng mga produktong AI na binibili ng isang ahensiya, ay may panganib sa maling paggamit. Halimbawa, iminungkahi ng kamakailang ulat ng balita na ang ilang libreng produkto ng AI ay naglalabas ng may kinikilingang resulta kung minsan na maaaring sumalungat sa mga pamantayang itinakda sa EO 30.

Ang mga patakaran at pamantayan ng AI (kabilang ang rehistro ng AI) ay hindi nailalapat sa: 

• AI na ginagamit sa mga sistema ng depensa o seguridad ng COV (mga halimbawa: cybersecurity, HVAC, o mga sistema ng SCADA)
• Ang AI ay kasama sa mga karaniwang produktong komersyal (mga halimbawa: isang iWatch, iPhone, komersyal na desktop software tulad ng Adobe Photoshop, o pinamamahalaang software bilang isang serbisyo ng application kung saan ang Commonwealth ay hindi nagmamay-ari ng software application at ang data na ginagamit)
• Mga aktibidad ng pananaliksik at pag-unlad (R&D) ng AI o mga programang panturo sa mga pampublikong institusyon ng mas mataas na edukasyon 

Ang mga aktibidad ng pananaliksik at pag-unlad ng AI (R&D) o mga programang panturo sa mga pampublikong institusyon ng mas mataas na edukasyon ay hindi saklaw ng patakaran at mga pamantayan ng AI at hindi kinakailangang irehistro sa rehistro ng AI.  Bilang halimbawa:

• Ang AI ay ginagamit bilang bahagi inisyatiba sa pananaliksik kung saan ang AI ay maaaring tumulong sa mga taong paksa nito upang maisagawa ang isang gawain
• Pananaliksik na tinulungan ng AI sa isang larangan ng kaalaman
• Pagsusuri ng mga datos ng pananaliksik na tinulungan ng AI
• Pananaliksik sa mga pamamaraan, mga algorithm, at mga teknolohiya ng AI
• Ginagamit ang AI sa silid-aralan kung saan ang mga estudyante ay gumagamit ng generative AI sa kanilang mga takdang-aralin
• Ginagamit ang AI sa silid-aralan kung saan tinatasa at tinataya ng mga guro ang mga takdang-aralin ng mga estudyante

Inirerekomenda ng VITA na ang mga paggamit ng AI para sa mga layunin ng pananaliksik ay pamamahalaan ng Institutional Review Board [Lupon ng Pang-institusyong Pagsusuri] (IRB) programa ng institusyon para sa pangangasiwa ng pananaliksik upang matiyak na ang mga kalahok ay tinatrato nang etikal, responsable, at ang mga proteksiyon ay inilalapat upang matiyak ang kanilang kapakanan at pagiging pribado (kabilang ang kanilang data).

Inirerekomenda ng VITA na ang paggamit ng AI sa mga programang panturo ay pamamahalaan ng Virginia Department of Education [Kagawaran ng Edukasyon ng Virginia] para sa mga institusyong K-12 at ng State Council of Higher Education [Sanggunian ng Estado sa Mas Mataas na Edukasyon] para sa mga institusyon ng mas mataas na edukasyon.

Bagama't ang mga aktibidad sa pananaliksik at pag-unlad ng AI (R&D) o mga programang pang-instruksyon sa mga pampublikong institusyon ng mas mataas na edukasyon ay kasaman sa eksensiyon mula sa patakaran at mga pamantayan ng AI, ang mga aktibidad na pang-administratibo na may kinalaman sa mga datos ng Commonwealth (kabilang ang mga datos ng mag-aaral at pananalapi) ay hindi kasama sa eksensiyon.  Bilang halimbawa:

• AI na ginagamit sa proseso ng pagtanggap ng mga estudyante
• Ginagamit ang AI upang magbigay ng mga iskolarsip, mga grant, at iba pang anyo ng tulong pinansyal
• Ginagamit ang AI upang mag-recruit at pumili ng mga tauhan at pamahalaan ang pagganap ng mga kawani
• Ginagamit ang AI upang pamahalaan ang mga tungkulin sa negosyo ng institusyon kabilang ang mga proseso ng pananalapi, pagkuha, real estate, pasilidad, at teknolohiyang pang-impormasyon
• Ginamit ang AI upang ma-access ang sensitibong mga datos ng institusyon, kabilang ang mga datos na pinamamahalaan ng HIPAA, FERPA, at IRS

Ang COV Ramp at ang proseso ng Pagpaparehistro at Pag-apruba ng AI ay nagsisilbi sa magkaugnay ngunit magkakahiwalay na mga pangangailangan.

• Ang Pagpaparehistro at Pag-apruba ng AI ay tumutukoy sa layunin na gamitin ang isang tiyak na teknolohiya ng AI para sa isang tiyak na paggamit, at nagpapakita ng pagsunod sa mga alalahanin na itinaas ng patakaran sa paggamit
• Ang COV Ramp ay nagtatatag ng kakayahang operasyonal ng bendidor at ng kakayahan ng Commonwealth na makipagnegosyo sa kanila

Bukod pa rito, ang pagpapasa sa COV Ramp ay nagdudulot ng bayarin sa ahensiya. Sa pamamagitan ng unang pagpapasa ng Pagpaparehistro at Pag-apruba ng AI, maiiwasan natin ang hindi kinakailangang gastos kung sakaling ang iminungkahing paggamit ay tanggihan ng VITA o ng kalihiman. 

Ang layunin ng rehistro ng AI ay upang matiyak ang ganap na transparency hinggil sa paggamit ng AI. Ito ay alinsunod sa Pamantayan ng Patakaran sa Paggamit ng Artificial Intelligence ng COV (Seksiyon IV, Mga Kailangang Pagtatatuwa), na nagtatakda ng ilang pamantayan na dapat sundin.

Ang rehistro ng AI ay saklaw ng Batas sa Kalayaan sa Impormasyon (FOIA). Gayunpaman, may mga umiiral na exemption sa cybersecurity na ilalapat kung naaangkop. Tingnan ang Va. Code § 2.2-3705.2(2) & (14). Ang mga pangkalahatang probisyon ng FOIA ay isinasaalang-alang ang mga sitwasyon kung saan ang ilang impormasyon ay kailangang i-redact at/o kunin mula sa isang database. Tingnan, hal., Va. Kodigo §§ 2.2-3704(G) & 2.2-3704.01.

Kung ang mga ahensiya ay naglalagay ng impormasyon sa rehistro na itinuturing nilang sensitibo o kumpidensyal, dapat malinaw na tukuyin ng mga ahensiya ang naturang impormasyon upang mapadali ang susunod na pagsusuri kung aling impormasyon ang dapat isapubliko.

Ang layunin ng Plano ng Pagsasagawa ng COV Artificial Intelligence Technology ay tukuyin ang mga solusyon sa AI na nasuri para sa paggamit, at mga lawak kung saan maaaring gustuhin ng isang ahensiya na magsiyasat. Kung ang isang partikular na solusyon sa AI ay hindi nakalista sa plano ng pagsasagawa, maaaring ipasa ng isang ahensiya ang solusyon sa proseso ng Pagpaparehistro at Pag-apruba ng Pangangasiwa ng AI.

Ang lahat ng iminungkahing mga paggamit ng teknolohiya ng AI ay dapat isaalang-alang para sa pagpaparehistro, alinsunod sa gabay sa itaas, kahit na lumitaw sa plano sa pagsasagawa ng AI Technology.

Ang paggamit ng mga kasangkapan sa generative AI na

• nakasuporta sa mga panloob na operasyon
• hindi bumubuo ng mga desisyon at mga patakaran
• hindi gumamit ng mga Datos ng Commonwealth o mga datos ng mga tao
• hindi ginagamit sa pagsasakatuparan ng mga pangunahing mga proseso ng negosyo ng ahensiya
• hindi isinama sa sistema ng produksiyon

hindi kinakailangan ang pagpaparehistro ng AI.

Ang isang ahensiya na gumagamit ng mga datos ng tao sa anumang solusyon ng AI ay dapat na makapaglarawan kung paano ginagamit at pinoprotektahan ang mga datos na iyon.

• I-detalye ang mga tiyak na elemento ng mga datos na isasama, paliwanag para sa kanilang paggamit at pahayag ng halaga para sa kung ano ang mabubuo
• Ipaliwanag kung paano magiging ligtas ang dataset, at tukuyin ang mga indibidwal o mga tungkulin na magkakaroon ng access sa data
• Ipaliwanag ang operasyon ng AI algorithm sa dataset at kung paano nabubuo ang output
• Tukuyin kung paanong ang anumang output ay maayos na magiging hindi kilala

Data ng Komonwelt hindi dapat gamitin sa pagbuo at/o pagsasanay ng mga modelo ng AI.

Kapag ang mga mamamayan ay nagdadala ng mga AI recorder sa mga pulong, pampubliko man o pribado, pinapayagan silang magrekord basta't hindi sila nakagagambala. Ang Virginia ay isang hurisdiksiyong may pahintulot ng isang partido (Va. Code § 19.2-62), na nangangahulugang hangga't ang isang kalahok sa isang pag-uusap ay pumapayag na maitala ang komunikasyon, hindi iligal na i-rekord ang pag-uusap. Gayundin, ang FOIA o iba pang mga batas ay maaaring magbigay ng karapatang magrekord ng mga pulong na bukas sa mga miyembro ng publiko. Kumonsulta sa inyong legal na tagapayo kung may mga tanong kayo tungkol sa mga isyung ito.

Dapat mong asahan na ang mga produkto sa buong larangan ng IT ay lalago upang isama ang mga kakayahan ng AI sa ilang anyo, at malamang na kasama rito ang mga solusyon sa software na kasalukuyang ginagamit ng inyong ahensiya.

• Dapat maging mapagmatyag ang mga ahensiya sa mga pagbabago sa mga produkto sa kanilang portpolyo para sa pagdaragdag ng mga bahagi o mga kakayahan ng AI
• Dapat maging mag-ingat ang mga ahensiya sa mga pahayag ng bendidor na nagmamalabis o nagbibigay ng maling impormasyon tungkol sa paggamit ng AI sa isang produkto o serbisyo upang makuha ang interes ng kostumer, na isang kasanayang kilala bilang AI washing

Tungkol sa AI na nakalagay sa mga karaniwang produktong komersyal, ang aming interes sa pagrehistro ng teknolohiya ay dapat nakatuon sa kung ang AI ay a) gumagawa ng mga pagbabago sa ipinasok na data, o b) gumagawa ng mga desisyon palabas.

Ang simpleng pagkakaroon ng AI sa isang produkto ay hindi sapat para sa pagpaparehistro; interesado lamang kami sa pagpaparehistro kapag ang sangkap ng AI ay ginagamit upang lumikha ng isang panghuling produkto. Isang halimbawa ay ang Archer, na may AI module, ngunit hindi ito ginagamit ng COV at hindi ito maaaring gamitin nang hiwalay ng isang end user.

Ang anumang solusyon sa AI na binuo ng COV ay dapat makapagpakita ng pahintulot na gamitin ang mga dataset na tinutukoy, kabilang ang mga mula sa mga mapagkukunan na pampubliko, at dapat makapagbigay ng listahan ng mga mapagkukunang iyon upang maipaliwanag ang operasyon ng solusyon. Ang lahat ng mga dataset na ginagamit sa mga solusyon sa AI ay dapat na nakadokumento sa kasangkapan ng COV Enterprise Architecture. Kumonsulta sa inyong legal na tagapayo o sa Tanggapan ng Abogadong Panlahat hinggil sa mga alalahanin sa karapatang-ari o iba pang mga kinakailangan sa pahintulot para sa paggamit.

Ang AI na ginagamit para bumuo ng code ay dapat may pangangasiwa ng tao sa pagpapatupad ng mga ginawa. Dapat siyasatin ng tao ang nabuong produkto bago ipasok sa isang sangay at dapat masubukan ang solusyon bago ito ilabas sa produksiyon.