Arbore de decizie: Folosesc sau nu IA Generativă?

Resursa de mai jos te poate ghida să analizezi dacă este adecvat să folosești IA Generativă (modelele lingvistice mari care stau la baza aplicațiilor precum ChatGPT, Gemini, Claude) pentru o sarcină specifică, considerând aspecte legate de siguranță, acuratețe sau etică.

%%{init: {'theme':'base','flowchart':{'htmlLabels':false},'themeVariables':{'primaryColor':'#ffffff','primaryTextColor':'#000000','nodeTextColor':'#000000','textColor':'#000000','primaryBorderColor':'#000000','lineColor':'#000000'}}}%%

flowchart TD
%% Start
A([Start]) --> B{Sarcina este clară și <br>cu risc scăzut?}
B -->|Nu| Z([❌ Evită IA Generativă<br>Ex: contract legal,<br> sfat medical])
B -->|Da| C{Rezultatul trebuie să fie <br>100% corect?}

%% Accuracy check
C -->|Da| D([❌ Evită IA Generativă <br> Ex: proceduri de siguranță])
C -->|Nu| E([✅ Continuă])

%% Verification expertise
E --> F{Ai expertiza să<br> verifici rezultatul?}
F -->|Nu| G([⚠️ Nesigur <br> risc de erori / bias<br>Ex: rezumat IA fără verificare])
F -->|Da| H([✅ Continuă])

%% Confidential data
H --> I{Sunt implicate date <br>confidențiale / personale?}
I -->|Da| J([❌ Evită IA Generativă<br> risc de confidențialitate<br>Ex: fișe de client,<br> date angajați])
I -->|Nu| K([✅ Continuă])

%% Ethical / bias check
K --> L{Există risc etic /<br> părtinire?}
L -->|Da| M([⚠️ Atenție <br> verificare sau evită<br>Ex: recomandări angajare, <br>conținut sensibil])
L -->|Nu| N([✅ Continuă])

%% Tool selection
N --> O{Alege instrumentul <br>potrivit pentru sarcină}
O --> P([✅ Compară instrumente: <br>ChatGPT, Gemini, <br>Claude, etc])

%% Responsible use
P --> Q([✅ Folosește responsabil,<br> verifică rezultate<br>verifică sursele,<br> corectează erorile])
Q --> R([Final])

classDef default fill:#ffffff,stroke:#000000,color:#000000;

Sarcina este clară și cu risc scăzut?

O sarcină este considerată clară și cu risc scăzut dacă îndeplinește concomitent următoarele criterii:

  • Obiectivul este bine definit, cu așteptări specifice și explicite privind intrarea (datele oferite) și ieșirea (rezultatul dorit).

  • Riscul este scăzut, ceea ce înseamnă că erorile sau inconsecvențele au consecințe minime. De exemplu, nu afectează:

    • Siguranța fizică sau emoțională a persoanelor.
    • Conformitatea legală sau reglementările.
    • Informațiile sensibile sau datele cu caracter personal.

Exemple de sarcini adecvate:

  • Redactarea și corectarea de e-mailuri cu importanță scăzută sau alte texte simple.
  • Rezumarea articolelor sau a documentelor publice.
  • Generarea de idei creative sau de brainstorming.

Exemple de sarcini cu risc ridicat sau neclare:

  • Stabilirea de diagnostice medicale sau tratamente.
  • Redactarea de contracte legale sau documente oficiale.
  • Oferirea de consultanță financiară sau investițională.
  • Utilizarea sau manipularea datelor sensibile (medicale, financiare) fără protecții adecvate.

Rezultatul trebuie să fie 100% corect?

Dacă rezultatul trebuie să fie complet corect și erorile nu sunt acceptate, IA generativă NU este adecvată pentru sarcina respectivă. În astfel de cazuri, chiar și mici erori pot avea consecințe semnificative.

Exemple de sarcini unde IA generativă nu este recomandat să fie folosită:

  • Notarea examenelor
  • Prescrierea de medicamente
  • Proceduri de siguranță
  • Calcule financiare sau aspecte juridice

Se poate folosi IA generativă, ca asistent, dacă:

  • Ai competența să verifici complet rezultatul
  • Ai timp și resurse pentru verificare detaliată
  • Poți valida independent răspunsul
  • Răspunsul este validat de un specialist înainte de utilizare

IA generativă poate produce informații plauzibile, dar incorecte (halucinații) și nu este sigură pentru sarcinile în care greșelile nu sunt acceptate.

Ai expertiza să verifici rezultatul?

Chiar dacă sarcina ta nu necesită acuratețe 100%, este necesar să ai expertiză pentru a verifica rezultatul generat de IA.

Exemple de situații unde este necesară verificarea pe baza expertizei:

  • Rezumate de texte complexe (ex: articole științifice).
  • Generarea de cod sau soluții tehnice.
  • Crearea de conținut pentru publicare oficială.

Dacă nu ai expertiza necesară, există riscul să accepți rezultate incorecte sau părtinitoare.

Sunt implicate date confidențiale sau personale?

Dacă sarcina implică date personale sau confidențiale, NU folosi instrumente publice de IA generativă (ChatGPT, Claude, Gemini).

Exemple de sarcini cu risc ridicat:

  • Documente de angajare (care implică date din CV, evaluări, etc.)
  • Date financiare personale (bugete, tranzacții, conturi)
  • Documente juridice cu părți nominale
  • Date de identificare personală

Poți folosi IA generativă dacă:

  • Datele sunt complet anonimizate, conform GDPR și normelor aplicabile
  • Folosești un sistem securizat, aprobat de companie sau organizație, care garantează confidențialitate
  • Datele nu sunt sensibile și nu permit identificarea persoanelor

Chiar dacă datele sunt corect anonimizate, pentru domenii precum resurse umane sau analiză financiară, verifică:

  • Riscul de prejudecătă sau discriminare în rezultatele generate
  • Impactul etic al deciziilor bazate pe rezultatele generate de IA
  • Necesitatea validării de către un specialist

Important: Pentru planurile gratuite/consumer (ChatGPT, Claude/ Pro, Gemini), furnizorii pot stoca conversațiile și le pot folosi pentru îmbunătățirea modelelor. Confidențialitatea garantată necesită planuri Enterprise cu acorduri specifice.

Există risc etic/ părtinire?

Această secțiune evaluează dacă rezultatul IA poate fi discriminatoriu, părtinitor sau dăunător pentru utilizatori sau publicul larg.

Exemple de risc etic:

  • Generarea de recomandări/decizii de angajare fără auditarea prealabilă a algoritmului pentru a detecta și corecta părtinirea (bias-ul) inerent datelor de antrenament.
  • Producerea de conținut insensibil din punct de vedere cultural, social sau etnic, care poate fi perceput ca ofensator sau dăunător.
  • Dezinformarea/manipularea, generarea de știri false (deepfakes) sau de conținut menit să manipuleze opinia publică.

Alege instrumentul potrivit pentru sarcină

Pentru alegerea celui mai potrivit instrument de IA generativă, este necesară o evaluare pe baza mai multor criterii. Câteva dintre criterii sunt prezentate mai jos.

  1. Performanță și încredere

Aceste criterii sunt esențiale pentru a asigura calitatea și etica rezultatelor.

Criteriu Detaliu
Acuratețea Cât de precis și relevant este rezultatul generat (ex: răspunsuri factuale corecte, cod funcțional).
Transparența Claritatea modului în care IA ajunge la rezultat (ex: posibilitatea de a verifica sursa informației, înțelegerea limitărilor modelului).
Fiabilitatea Consistența și stabilitatea instrumentului în timp. Include rezistența la halucinații (generarea de informații false) și riscul de părtinire (bias).


  1. Tipul de conținut și funcționalități

Instrumentul selectat trebuie să fie optimizat pentru formatul conținutului pe care dorești să-l prelucrezi sau să-l generezi.

Tip de conținut Exemple de instrumente sau funcționalități cheie
Text Generare, rezumare, traducere. (Ex: ChatGPT, Gemini, Claude).
Documente lungi Funcții avansate de încărcare și interogare a fișierelor PDF/DOC.
Imagini Generare de imagini de la zero sau editare pe bază de text (prompt). (Ex: Midjourney, DALL-E).
Cod Generare, corectare, explicare cod (Ex: GitHub Copilot, Claude, ChatGPT)

Referințe

  1. Google Gemini - Termeni și condiții suplimentare pentru inteligența artificială generativă

  2. OpenAI ChatGPT - Termeni de utilizare (UE)

  3. Anthropic Claude - Termeni și condiții pentru consumatori

  4. Anthropic Claude - Actualizări ale Termenilor și Politicii de confidențialitate pentru consumatori

  5. OpenAI - Cum sunt utilizate datele dvs. pentru a îmbunătăți performanța modelului