EU AI Act — mis see on ja kuidas meid puudutab

TL;DR

Regulation (EU) 2024/1689 (EU AI Act) — raamistik AI-süsteemide reguleerimiseks EL-is. Adaptiivne õpe koolikontekstis kuulub Annex III high-risk kategooriasse. Nõuded jõustuvad etapiviisiliselt augustist 2026 kuni augustini 2027. Meie konveier — deterministlik BKT + mallimootor seletustele — vastab nõuetele traceability, explainability ja human oversight osas konstruktsiooni järgi, ilma eraldi compliance-taristuta.

Regulatiivne kontekst

EU AI Act jagab AI-süsteemid 4 kategooriasse riski järgi:

1. Unacceptable — keelatud (sotsiaalne skoor, manipulatiivne AI).
2. High-risk — lubatud, aga kohustustega (Art. 9–15).
3. Limited risk — transparency-kohustused (chat-botid).
4. Minimal risk — kohustusteta.

High-risk loend Annex III-s (punkt 3) sisaldab:

AI systems intended to be used … for the purpose of determining access to or admission of natural persons to educational and vocational training institutions … or for the purpose of evaluating learning outcomes … or for the purpose of assessing the appropriate level of education that an individual will receive or will be able to access …

Ehk: süsteemid, mis valivad, mida edasi õppida, või hindavad õpitulemust, kuuluvad high-risk-i. Meie arhitektuuri selektor (samuti getNextRecommendedQuestion MATx-is) kuulub.

Võtmekuupäevad

Kuupäev	Mis jõustub
1. august 2024	AI Act avaldatud, jõus
2. veebruar 2025	Unacceptable-risk keelud (Art. 5)
2. august 2025	Reeglid general-purpose AI-le (GPT jms)
2. august 2026	High-risk kohustuste põhimass (uutele turule lastud süsteemidele)
2. august 2027	Täielik kohaldumine süsteemidele, mis olid juba turul enne 2026-t

Allikas: Article 113 — Entry into force and application.

Annex III high-risk — kuhu kuulub MATx + matx-hack

Annex III pt. 3 alapunkt	Kohaldub meile?
(a) Determining access / admission	Ei — me ei otsusta kelle vastu võtta
(b) Evaluating learning outcomes	Jah — BKT $P(L)$ on objektiivne mastery hinnang
(c) Assessing appropriate level of education	Osaliselt — selektor valib ülesannete taseme
(d) Detecting prohibited behaviour (cheating)	Ei

See tähendab, et meile (production-piloodi puhul) on kohustuslikud Art. 9–15 täies mahus.

Art. 9–15 nõuded ja meie staatus

Artikkel	Nõue (lihtsustatult)	Meie staatus
9 — Risk management	Dokumenteerida riskid kogu lifecycle’i ulatuses	Roadmap (pärast piloodi)
10 — Data governance	Treeningandmed esinduslikud, ilma bias-ita	N/A — meil ei ole ML-treeningut. Ülesanded kureerib õpetaja (data/matx-define/)
11 — Technical documentation	Arhitektuur, design rationale, teadaolevad piirangud	See raamat ongi dokumentatsioon
12 — Record-keeping (logs)	Inference-sündmuste auto-logimine	Iga bktUpdate taasesitatav (prior, isCorrect, params)-st; lisandub valikuga audit_trace JSONB
13 — Transparency to users	Kasutaja teab, et kasutab AI-d	Õpetajale näitame reason’i (mikrooskuse kaupa); õpilane näeb deterministlikku süsteemi, mitte LLM-i
14 — Human oversight	Lõplik otsus jääb inimesele	Õpetaja näeb soojuskaarti + reason’it; saab soovitust tühistada või ülesande käsitsi anda
15 — Accuracy & robustness	Dokumenteeritud täpsus, küberturve	TBD — pilootandmed

Miks deterministlik BKT compliant by construction

High-risk AI peamised riskid — opacity (“must kast”), hallutsinatsioonid, bias treeningandmetes. Meil:

• Closed-form math. $P(L)$ pärast uuendust arvutatakse Bayesi valemiga (prior, isCorrect, P_S, P_G, P_T)-st. Audiitor saab iseseisvalt taasesitada tulemuse ajaloo ükskõik missugusest hetkest.
• No LLM in production path. Generatiivset komponenti pole — hallutsineerida pole millel. Selgitused koostab mallimootor (web/lib/explain.ts) fikseeritud eestikeelsete fraaside komplektiga.
• Kureeritud ülesannete baas. Ei ole AI-poolset auto-genereerimist — järelikult pole treeningandmeid, järelikult pole training-bias-it. Ülesandeid märgistab praktiseeriv õpetaja.
• Mikrooskuste jaotus on objektiivne. 9 mikrooskust define.tN.{add,mul,mix} kajastavad ainepõhiseid kategooriaid, mitte sotsiaal-demograafilisi — Art. 10 fairness ei kohaldu.

Need omadused katavad nõuded otse:

Nõue	Kataja
Art. 12 — record-keeping	Replayable bktUpdate(prior, ...)-st
Art. 13 — transparency	Selge valem, mitte “AI maagia”
Art. 14 — human oversight	Õpetaja saab UI-st override teha alati
Art. 15 — accuracy	Pilot evaluation + EM-fitting parameetritele

Mida see tähendab MATx-i jaoks

Kui Tom integreerib @matx-hack/bkt-core (PR1), pärib MATx selle compliance-profiili automaatselt:

• bktUpdate — sama suletud valem tema submit-handleris;
• student_skill_state (uus tabel) + valikuline audit_trace JSONB katab Art. 12 record-keeping’u;
• olemasolev reason-heuristika (Harjuta... / Kinnista... / Korda...) — see on juba Art. 13 transparency;
• õpetaja teacher-analytics dashboard’is — Art. 14 oversight.

Mingit eraldi compliance-taristut AI Act-i alla ei vajata.

Mida see tähendab meile (matx-hack)

Hetkel (häkatoni demo):

• ✅ Architecture + documentation valmis (Art. 11)
• ✅ Math suletud (Art. 12, 13)
• ✅ Õpetaja loop’is (Art. 14)

Roadmap (pärast piloodi):

• Lülitada sisse audit_trace JSONB veerg — kogub iga attempt’i (timestamp, prior, isCorrect, posterior)
• Pilot-evaluation täpsuse mõõdikud (Art. 15)
• Risk-management dokument (Art. 9)
• DPIA — Data Protection Impact Assessment (GDPR + AI Act)

eatf.eu — täiendav attestation-kiht

eatf.eu (Anton-i paralleelne projekt) pakub model attestation, response signing ja audit-trail tsentraalselt ühe API-kutsega. Vajadusel mässime bkt-core-i attestable komponendiks:

attempt → bktUpdate → eatf.attest({input, output, params, modelHash})
                    → audit_trace + signature

See pole compliance jaoks kohustuslik (Art. 12 katab lihtne JSONB-veerg), aga annab välise sõltumatu kirje audiitorile.

Kasulikud lingid

• Regulation (EU) 2024/1689 — ametlik tekst (eur-lex)
• Annex III — high-risk loend
• Article 113 — jõustumiskuupäevad
• artificialintelligenceact.eu — community summaries
• European Commission — Regulatory framework on AI
• eatf.eu — attestation framework