Supervisió Humana (HITL)

Versió 1.0 · Actualitzat: Abril 2026 · Conforme a l'Article 14 de la Llei d'IA de la UE

Seba AI | Studio és un sistema d'IA educativa classificat com a risc limitat sota la Llei d'IA de la UE. Malgrat això, apliquem mecanismes de supervisió humana de nivell alt risc per garantir que cap decisió amb impacte en l'aprenentatge d'un alumne sigui presa exclusivament per la IA sense la possibilitat d'intervenció humana.

Totes les qualificacions i avaluacions generades per la IA es presenten als docents com a suggeriments, no com a decisions definitives. El docent pot revisar la qualificació, la justificació de la IA i l'historial de la conversa, i pot substituir la qualificació per qualsevol valor de l'escala (A–D / Excel·lent–Insuficient). Cada substitució queda registrada de forma immutable al registre d'auditoria amb: la qualificació original de la IA, la qualificació corregida pel docent, la nota justificativa del docent, la marca de temps i l'identificador del docent.

Accés: Tauler d'Administració → Panell de Responsabilitat → Pestanya «Revisió de Qualificacions».

Cada resposta de la IA és analitzada automàticament per detectar patrons de biaix en sis categories: gènere, ètnia, nivell socioeconòmic, origen, edat i religió. Les respostes marcades es bloquegen i es registren al registre d'auditoria. Els administradors poden revisar cada marca, veure el fragment problemàtic i decidir si confirmen el bloqueig o el descarten.

La IA pot generar recomanacions de ruta d'aprenentatge personalitzades. Cada recomanació inclou una justificació auditaable que explica per quin motiu s'han seleccionat els temes, quines dades de l'alumne s'han tingut en compte i quines competències LOMLOE es treballen. Cap ruta d'aprenentatge s'aplica automàticament: el docent o el pare/mare ha de revisar la justificació i confirmar la recomanació.

D'acord amb l'Article 22 del RGPD i l'Article 14 de la Llei d'IA de la UE, qualsevol alumne, pare/mare o tutor pot sol·licitar que les avaluacions de l'alumne no siguin generades per la IA. En aquest cas, el docent assumirà totes les funcions d'avaluació manualment. Per exercir aquest dret, contacteu l'administrador de l'escola.

Per a qualsevol consulta sobre supervisió humana, exercici del dret a no ser avaluat per la IA, o per sol·licitar informació sobre els mecanismes HITL, podeu contactar directament amb el Delegat de Protecció de Dades (DPD) de Seba AI | Studio:

Atribució dels models d'IA

Savi està impulsat pels models de llengua BSC Salamandra & Àguila, desenvolupats pel Barcelona Supercomputing Center (BSC) com a part del Projecte AINA. Llicenciats sota Apache 2.0. Totes les dades d'usuari són allotjades al Núvol Públic de Catalunya (EEE). Cap dada d'usuari s'utilitza per reentrenar els models.