Seguretat i privacitat
Gradeo aplica IA a l'educació des d'un enfocament de suport, transparència, privacitat i prudència: ajuda a preparar propostes útils per al docent, sense substituir la revisió humana ni automatitzar la decisió acadèmica final.
IA responsable i paper de Gradeo
A Gradeo entenem que aplicar intel·ligència artificial a contextos educatius exigeix més que bons resultats: exigeix claredat sobre el paper de la IA, respecte per la privacitat i un disseny que mantingui el control en mans de les persones. Per això, Gradeo està plantejat com una eina de suport al professorat. La seva funció és ajudar a preparar propostes de correcció, feedback i tutoria amb més consistència i menys càrrega operativa, sense substituir el judici professional del docent.
El nostre enfocament d'ús
Dissenyem Gradeo amb una idea central: la IA assisteix, el docent decideix i la decisió final no es formalitza automàticament dins de l'aplicació. Això significa que Gradeo no està pensat com una eina de decisió autònoma, sinó com un sistema de suport per preparar una proposta útil, revisable i contextualitzada.
Què pot fer Gradeo
Depenent del flux de treball i de la configuració escollida, Gradeo pot analitzar documents acadèmics, aplicar rúbriques amb més consistència, proposar puntuacions per criteri, redactar feedback estructurat, generar resultats o informes de suport i facilitar processos de correcció i tutoria més homogenis. Tot això es basa en el context que aporta el docent, com la rúbrica, les instruccions, els materials de referència, l'estil desitjat i la configuració del procés.
Què no fa Gradeo
Gradeo no pretén substituir el criteri del professor, emetre per si sol una decisió acadèmica final vàlida ni convertir-se en l'única base per a una nota final. En l'estat actual del producte, Gradeo acaba en una proposta assistida per IA. La revisió final i l'ús definitiu del resultat s'han de resoldre fora de l'aplicació, segons el criteri docent i el marc organitzatiu aplicable.
Principis d'ús responsable
L'ús responsable de la IA en educació requereix reconèixer que no totes les decisions tenen el mateix impacte. Com més gran sigui la rellevància acadèmica d'una activitat, més important és revisar els resultats amb criteri humà, evitar automatismes indeguts, entendre que una proposta d'IA pot contenir errors o inconsistències i adaptar-ne l'ús a la política del centre o de l'organització quan n'hi hagi. Per això, el nostre enfocament parteix de diversos principis: transparència sobre la intervenció de la IA, claredat sobre els límits del sistema, prudència en contextos sensibles i reforç del paper del docent com a responsable de la decisió final.
Dades que poden aparèixer en l'ús
A Gradeo, la privacitat no es tracta com un afegit, sinó com una part central del disseny i de l'ús responsable del producte. Quan s'utilitza Gradeo, poden aparèixer dades com documents de l'alumnat, noms o altres identificadors, observacions acadèmiques, feedback i resultats de correcció o tutoria. Per això, la pràctica recomanada sempre és compartir només les dades necessàries, evitar informació personal innecessària, limitar l'exposició de resultats i treballar conforme a la política de privacitat del centre o de l'organització quan n'hi hagi.
Minimització, anonimització i prudència
El nostre enfocament de privacitat parteix d'un principi senzill: menys dades és millor, sempre que l'objectiu docent es pugui continuar complint. Això implica introduir només el context realment útil, evitar documents o dades personals irrellevants, utilitzar anonimització quan el flux ho permeti i extremar la cautela quan hi hagi menors o informació sensible.
Qui accedeix a la informació i als resultats
L'accés als resultats s'hauria de limitar al professor o equip docent responsable del procés, i qualsevol comunicació posterior hauria de respectar el context acadèmic i organitzatiu aplicable. Recomanem evitar la circulació àmplia de propostes o resultats generats per IA sense revisió prèvia, especialment quan es puguin interpretar erròniament com a decisions tancades o tenir conseqüències rellevants per a l'alumnat.
Ús institucional en entorns B2B
Quan Gradeo s'utilitza a través d'una universitat, escola, acadèmia o una altra organització, el marc d'ús ve condicionat per la política interna del client, les seves regles sobre privacitat, els seus criteris sobre conservació i comunicació de resultats i els seus processos docents i organitzatius. En aquest context, Gradeo s'ha d'integrar dins del marc de governança i compliment definit per la institució.
Ús individual en entorns B2C
Quan Gradeo s'utilitza de manera individual, l'usuari té una responsabilitat més directa sobre quina informació introdueix, si l'ús és adequat per a la seva activitat professional i com revisa després la proposta generada per la IA. En aquests casos, la prudència ha de ser encara més gran quan intervenen menors, els resultats tenen conseqüències rellevants o la informació tractada és especialment sensible.
Menors i contextos de més sensibilitat
Hi ha situacions que exigeixen un nivell de cura reforçat, per exemple l'ús amb menors, la presència d'informació personal especialment sensible, activitats amb alt impacte acadèmic o resultats que es puguin compartir amb abast ampli. En aquests contextos, la recomanació és clara: minimitzar les dades, revisar amb més cura, evitar que la proposta d'IA circuli com si fos una decisió tancada i aplicar sempre el marc organitzatiu i legal corresponent.
Transparència i revisió humana
La confiança en una eina educativa amb IA depèn que l'usuari entengui quan intervé la IA, quin tipus de resultat està rebent i quina part del procés continua depenent d'una revisió humana fora del producte. Per això, Gradeo s'orienta a comunicar amb claredat que els resultats generats pel sistema s'han d'interpretar com a propostes assistides, no com a decisions finals autònomes.
Relació pràctica amb GDPR
Des de la perspectiva de GDPR, el nostre principi és clar: reduir al màxim les dades innecessàries, afavorir un ús proporcional a la finalitat docent i ajudar que el producte es pugui utilitzar dins de marcs organitzatius responsables. Això no elimina la necessitat que cada institució, professional o client revisi el seu propi encaix legal, però sí que defineix una direcció clara de producte i d'ús centrada en privacitat, proporcionalitat i minimització.
Relació pràctica amb l'EU AI Act
L'EU AI Act ha elevat el nivell d'exigència sobre els sistemes d'IA que s'utilitzen en contextos sensibles, inclosa l'educació. La resposta pràctica de Gradeo a aquest context regulador parteix de tres idees: la IA s'ha d'utilitzar com a suport i no com a substitució automàtica del docent, la transparència sobre el paper del sistema és essencial i els escenaris amb més impacte o sensibilitat requereixen un ús més prudent i controlat. Més que presentar la IA com una automatització cega, Gradeo es posiciona com una eina dissenyada per ajudar el professorat a treballar amb més consistència, millor traçabilitat i una millor base per revisar després.
Bones pràctiques recomanades
Amb independència del context, recomanem configurar bé la rúbrica, el context i les instruccions, introduir només la informació necessària, interpretar la sortida com una proposta assistida per IA, revisar amb més cura els casos importants o sensibles i resoldre la decisió final fora de Gradeo segons el criteri docent i el marc aplicable.
Què recomanem evitar
Per a un ús responsable, recomanem no tractar la sortida com l'única base per tancar una nota final, no pujar més dades personals de les necessàries, no compartir resultats sense revisar-ne el context i no utilitzar l'eina al marge de la política de la teva organització si treballes dins d'una institució.
Proveïdors i tractament de dades
Podem recolzar-nos en proveïdors tecnològics i d'IA per prestar el servei, sempre dins del marc contractual i operatiu que correspongui en cada cas. Tot i així, el nostre enfocament de producte continua sent el mateix: limitar les dades innecessàries, afavorir usos proporcionats a la finalitat docent i encaixar l'ús de l'eina dins de processos responsables de revisió, governança i compliment.