# šŸ›”ļø MākslÄ«gā Intelekta DroŔība, Ētika un VadlÄ«nijas --- ## šŸŒ Globālie AI DroŔības Principi ### OECD AI Principi (2019, atjaunoti 2024) PieņēmuÅ”as 46 valstis, tai skaitā ES dalÄ«bvalstis: 1. **Ieguvums cilvēkiem** ā€” AI jākalpo sabiedrÄ«bas labumam 2. **Tiesiskums** ā€” AI jāievēro likumi un cilvēktiesÄ«bas 3. **CaurspÄ«dÄ«gums** ā€” AI lēmumiem jābÅ«t skaidrojamiem 4. **IzturÄ«ba** ā€” AI sistēmām jābÅ«t droŔām un uzticamām 5. **AtbildÄ«ba** ā€” AI izstrādātāji atbild par sekām ### UNESCO AI Ētikas Ieteikumi (2021) Pirmais globālais AI ētikas standarts ā€” parakstÄ«ja 193 valstis: - Cilvēka cieņas aizsardzÄ«ba - Privātuma ievēroÅ”ana - Vides ilgtspēja - Datu pārvaldÄ«ba - Dzimumu lÄ«dztiesÄ«ba --- ## šŸ” AI KiberdroŔība ### Galvenie Draudi **Adversarial Attacks** ā€” uzbrukumi AI modeļiem: - Attēlu manipulācija (pixels, ko cilvēks neredz, maldina AI) - Prompt injection ā€” ļaunprātÄ«gas instrukcijas AI sistēmai - Data poisoning ā€” apmācÄ«bu datu saindÄ“Å”ana **Deepfakes un Dezinformācija:** - AI Ä£enerēts video/audio ā€” realitātes viltoÅ”ana - Sintētiski teksti ā€” automatizēta dezinformācija - Voice cloning ā€” balss klonÄ“Å”ana krāpÅ”anai **AI Sistēmu IevainojamÄ«bas:** - Model inversion ā€” privātu datu ieguve no modeļa - Membership inference ā€” noskaidrot vai dati izmantoti apmācÄ«bā - Model stealing ā€” modeļa kopÄ“Å”ana bez atļaujas ### AizsardzÄ«bas Metodes - Red teaming ā€” ētiska uzlauÅ”ana AI sistēmu testÄ“Å”anai - Differential privacy ā€” privātuma aizsardzÄ«ba apmācÄ«bā - Federated learning ā€” mācÄ«Å”anās bez datu centralizācijas - Explainable AI (XAI) ā€” pārskatāmi AI lēmumi --- ## āš–ļø AI Ētika Praksē ### Algoritmiskā Aizspriedumu NovērÅ”ana (Bias) **Kur rodas aizspriedumi:** - ApmācÄ«bu datos (vēsturiskā diskriminācija) - Modeļa uzbÅ«vē - MērÄ·a definÄ«cijā **Riska grupas:** Dzimums, rase, vecums, invaliditāte, seksuālā orientācija **Risinājumi:** - Datu audits pirms apmācÄ«bas - DaudzveidÄ«gas izstrādes komandas - Regulāra modeļa uzraudzÄ«ba ### AI Lēmumu PārskatāmÄ«ba **"Melnās kastes" problēma:** - DziļmācÄ«Å”anās modeļi bieži nav izskaidrojami - Tiesas, bankas, medicÄ«na ā€” nepiecieÅ”ami skaidrojumi **Risinājumi ā€” Explainable AI (XAI):** - LIME ā€” lokāli skaidrojumi - SHAP ā€” iezÄ«mju nozÄ«mÄ«gums - Attention maps ā€” ko modelis "skatās" ### Cilvēka UzraudzÄ«ba (Human-in-the-Loop) Principi: - AI palÄ«dz, cilvēks izlemj - Kritiskos lēmumos (medicÄ«na, tiesa) ā€” obligāta cilvēka apstiprināŔana - Automatizācija pieļaujama tikai zemā riska scenārijos --- ## šŸ¢ KorporatÄ«vā AI PārvaldÄ«ba ### AI Governance Framework Labas prakses uzņēmumos: 1. **AI politika** ā€” dokumentēti lietoÅ”anas noteikumi 2. **Ētikas komiteja** ā€” daudzdisciplināra pārraudzÄ«ba 3. **Riska reÄ£istrs** ā€” visu AI sistēmu katalogs ar riska novērtējumu 4. **Incidentu protokols** ā€” kā rÄ«koties AI kļūmju gadÄ«jumā 5. **Darbinieku apmācÄ«ba** ā€” AI pratÄ«ba visā organizācijā ### ISO Standarti AI jomā - **ISO/IEC 42001:2023** ā€” AI vadÄ«bas sistēmas sertifikācija - **ISO/IEC 23894:2023** ā€” AI riska pārvaldÄ«ba - **ISO/IEC 38507:2022** ā€” AI pārvaldÄ«bas principi - **ISO/IEC 24028:2020** ā€” AI uzticamÄ«ba ### NIST AI Risk Management Framework (ASV) 4 galvenās funkcijas: 1. GOVERN ā€” pārvaldÄ«bas struktÅ«ra 2. MAP ā€” riska identifikācija 3. MEASURE ā€” riska novērtÄ“Å”ana 4. MANAGE ā€” riska mazināŔana --- ## šŸŒ Valstu un ReÄ£ionu AI Stratēģijas ### Eiropas SavienÄ«ba - **ES AI Akts** (2024) ā€” riska regulējums - **ES AI Stratēģija** ā€” ā‚¬1 mljrd. investÄ«cijas gadā - **Digital Decade 2030** ā€” digitālās transformācijas mērÄ·i - **GDPR + AI** ā€” datu aizsardzÄ«ba AI sistēmās ### Latvija - **Digitālās transformācijas pamatnostādnes 2021-2027** - **Latvijas AI stratēģija** ā€” fokuss uz valsts pārvaldi un izglÄ«tÄ«bu - **Datu valsts inspekcija (DVI)** ā€” galvenā AI uzraudzÄ«bas iestāde - **LVRTC** ā€” valsts tehnoloÄ£iju centrs, AI projekti ### ASV - **Executive Order on AI** (2023) ā€” droŔības prasÄ«bas lielajiem modeļiem - **NIST AI RMF** ā€” riska pārvaldÄ«bas ietvars - **AI Bill of Rights** ā€” tiesÄ«bu aizsardzÄ«bas principi ### Ķīna - **AI regulējums** ā€” fokuss uz algoritmisko pārredzamÄ«bu - **Deepfake regulējums** (2022) ā€” marÄ·Ä“Å”anas prasÄ«bas - **Ä¢eneratÄ«vā AI regulējums** (2023) ā€” čatbotu noteikumi ### Apvienotā Karaliste - **Pro-innovation** pieeja ā€” sektorāla regulācija - **AI Safety Institute** ā€” droŔības pētÄ«jumi - **Bletchley Park Deklarācija** (2023) ā€” starptautiska AI droŔības vienoÅ”anās --- ## šŸ¤– Lielās Valodas Modeļi (LLM) ā€” DroŔība ### Galvenie Riski **Hallucination (halucinācijas):** - Modelis izgudro faktus, kas neatbilst realitātei - BÄ«stami medicÄ«nā, juridikā, finansēs - Risinājums: RAG (Retrieval Augmented Generation) **Prompt Injection:** - Ä»aunprātÄ«gas instrukcijas slēptas lietotāja ievadē - Var mainÄ«t modeļa uzvedÄ«bu - Risinājums: ievades validācija, izolēta izpildes vide **Datu NoplÅ«de:** - Modelis var "atcerēties" apmācÄ«bu datus - PII (persondati) risks - Risinājums: differential privacy, datu filtrÄ“Å”ana ### DroÅ”as LLM LietoÅ”anas Principi 1. NepārsÅ«ti sensitÄ«vus datus uz publiskiem modeļiem 2. Pārbaudi AI atbildes kritiskos kontekstos 3. Izmanto privātus/lokālus modeļus sensitÄ«viem uzdevumiem 4. Dokumentē AI lietoÅ”anu auditam 5. Apmāci darbiniekus kritiski domāt par AI atbildēm --- ## šŸ’¼ AI Nozaru Specifiskā Regulācija ### MedicÄ«na un VeselÄ«bas aprÅ«pe - **MDR** (Medical Device Regulation) ā€” AI kā medicÄ«niska ierÄ«ce - **FDA AI/ML Guidance** (ASV) ā€” klÄ«nisko lēmumu atbalsts - **CE marķējums** ā€” ES medicÄ«nisko AI sertifikācija - Augstais risks pēc ES AI Akta ā€” diagnostika, ārstÄ“Å”anas ieteikumi ### Finanses un ApdroÅ”ināŔana - **EBA vadlÄ«nijas** ā€” AI kredÄ«tu pieŔķirÅ”anā - **EIOPA** ā€” AI apdroÅ”ināŔanā - **MiFID II** ā€” algoritmiskā tirdzniecÄ«ba - Aizliegts: automātiska atteikumu pieņemÅ”ana bez cilvēka ### IzglÄ«tÄ«ba - **GDPR** ā€” studentu datu aizsardzÄ«ba - ES AI Akts ā€” studentu vērtÄ“Å”anas sistēmas (augstais risks) - Akademiskā godÄ«guma politikas ā€” AI plaÄ£iātisms ### Darba tiesÄ«bas - ES AI Akts ā€” darba atlase, novērtÄ“Å”ana (augstais risks) - **Platform Work Directive** ā€” algoritmiskie vadÄ«tāji - Obligāta informÄ“Å”ana darbiniekiem par AI uzraudzÄ«bu --- ## šŸ”® Nākotnes Tendences AI DroŔībā ### AGI (Artificial General Intelligence) Riski - Hipotētiska AI ar cilvēka lÄ«meņa vispārējo intelektu - Eksistenciālie riski ā€” diskutē vadoÅ”ie pētnieki - **AI Safety** pētÄ«jumu joma ā€” Anthropic, DeepMind, OpenAI ### Frontier AI Regulācija - Bletchley Park Deklarācija (2023) ā€” 28 valstu vienoÅ”anās - Robežmodeļu (frontier models) droŔības pārbaudes - Starptautiskā AI droŔības institÅ«cija ### Kvantu skaitļoÅ”ana un AI - Kvantu datori apdraud Å”ifÄ“Å”anu - Post-quantum kriptogrāfija ā€” sagatavoÅ”anās - Kvantu ML ā€” jauna paradigma ### BioloÄ£iskie Riski - AI bioloÄ£isko ieroču izstrādē ā€” augstākā prioritāte - Biosafety regulācija AI kontekstā - Dual-use pētÄ«jumu ierobežojumi