AI Seria Interviu 10: Ce face de fapt Embedding-ul? – De la esența tehnică la răspunsul la interviu

Ce face de fapt Embedding-ul? – De la esența tehnică la răspunsul la interviu

I. Esența tehnică: un rezumat al nucleului

Lucrarea de bază a Embedding-ului este maparea datelor discrete nestructurate (text, imagini etc.) într-un spațiu vectorial continuu și de dimensiuni reduse, astfel încât obiectele similare din punct de vedere semantic să fie apropiate în acest spațiu.
Mai simplu spus, construiește un „sistem de coordonate semantice” pentru computer, traducând „sensurile vagi” ale omului în „coordonate de poziție” pe care computerul le poate calcula.

II. Înțelegere intuitivă: harta semantică

Imaginați-vă o hartă bidimensională (în realitate, embedding-ul are adesea sute de dimensiuni, dar principiul este același):

Pisică → [0.92, 0.31, -0.45, …]
Câine → [0.88, 0.29, -0.42, …]
Mașină → [0.15, -0.87, 0.53, …]

Vectorii pentru pisică și câine sunt foarte apropiați, iar mașina este departe.
Embedding-ul permite computerului să nu mai trateze cuvintele ca simboluri izolate, ci să poată compara textul pe baza „apropierii de sens”.

III. Principii tehnice (versiune simplificată): Cum se învață?

Se bazează pe ipoteza lingvistică: „Sensul unui cuvânt este determinat de contextul său.”

Prin antrenarea pe volume masive de text (de exemplu, Word2Vec, stratul de încorporare BERT), modelul ajustează continuu vectorii fiecărui cuvânt.
În final, cuvintele care apar frecvent în contexte similare (pisică și câine în contexte precum „animal de companie”, „mângâiere”, „hrănire”) sunt aduse în poziții apropiate.
Acest proces nu necesită deloc adnotare manuală; este o structură geometrică care emerge automat din utilizarea limbajului.

Proprietate importantă: Spațiul vectorial poate chiar captura relații analogice, cum ar fi rege – bărbat + femeie ≈ regină.

IV. Într-un sistem RAG, ce pași specifici face Embedding-ul?

La construirea indexului: Transformă fiecare fragment de document (chunk) într-un vector → îl stochează într-o bază de date vectorială → generează o „adresă semantică”.
La interogare: Transformă întrebarea utilizatorului într-un vector în același spațiu → găsește în baza de date vectorii cei mai apropiați de document → recuperează fragmentele de cunoștințe relevante semantic.

Exemplu de efect:
Utilizatorul întreabă „Cum pot să-mi mențin câinele de companie fericit?”, chiar dacă baza de cunoștințe conține doar „Câinii au nevoie de plimbări zilnice, ceea ce ajută la sănătatea lor mentală”, embedding-ul poate recupera cu succes datorită apropierii semantice dintre „fericit/sănătate/câine”. Se realizează „corespondența prin sens”, nu „corespondența prin formă”.

V. Strategie de răspuns la interviu (discurs complet de 2–3 minute)

Mai jos este un cadru de răspuns conceput, care reflectă atât profunzimea teoretică, cât și experiența practică.

[Deschidere]

„Lucrarea de bază a Embedding-ului este maparea datelor discrete nestructurate într-un spațiu vectorial continuu și de dimensiuni reduse, astfel încât obiectele similare din punct de vedere semantic să fie apropiate în acest spațiu. Mai simplu spus, construiește un „sistem de coordonate semantice” pentru computer.”

[Explicarea principiului, menționarea proprietăților clasice]

„Codificarea one-hot tradițională nu are concept de distanță între cuvinte, în timp ce embedding-ul învață dintr-un corpus mare printr-o rețea neuronală – ‘sensul unui cuvânt este determinat de contextul său’. În final, fiecare cuvânt/propoziție este reprezentat ca un vector dens, iar cosinusul unghiului dintre vectori poate măsura direct similaritatea semantică. Poate chiar captura relații analogice, de exemplu rege – bărbat + femeie ≈ regină.”

[Combinarea cu experiența practică – important]

„În sistemul meu anterior de întrebări și răspunsuri pe bază de cunoștințe RAG, am folosit direct embedding-ul. Atunci am ales text-embedding-3-small, am tăiat documentele interne ale companiei în fragmente de 500 de caractere, fiecare fragment transformat în vector și stocat în Qdrant.
Odată, un utilizator a întrebat ‘cum să solicit concediul anual’, iar căutarea prin cuvinte cheie nu a găsit nimic, deoarece documentul conținea ‘procedura de solicitare a concediului’. Dar embedding-ul a putut mapa ‘concediu anual’ și ‘concediu’ în poziții apropiate, reușind să recupereze paragraful corect.
Am întâmpinat și o problemă: la început am folosit un embedding general, care a avut rezultate slabe pe clauze juridice. Apoi am schimbat cu BGE-large finetunat pe domeniu, iar rata de regăsire a crescut de la 72% la 89%. Deci alegerea modelului de embedding are un impact foarte mare asupra sarcinii finale.”

[Adăugarea unor reflecții profunde, demonstrând potențial senior]

„Aș dori să mai adaug un punct: embedding-ul este în esență o compresie semantică cu pierderi – aruncă informații de suprafață precum ordinea cuvintelor, sintaxa etc., păstrând doar „sensul general”. Deci, în scenariile care necesită potrivire exactă (de exemplu, modelul de produs ‘iPhone12’ vs ‘iPhone13’), căutarea pur vectorială poate să nu fie la fel de bună ca cea pe cuvinte cheie. În practică, folosim adesea căutarea hibridă (vector + BM25) pentru a completa reciproc.”

[Încheiere]

„În concluzie, embedding-ul rezolvă problema de bază: ‘cum să facem computerul să calculeze similaritatea semantică’. Este una dintre pietrele de temelie ale NLP-ului modern și RAG-ului.”

VI. Întrebări suplimentare posibile de la intervievator și cum să răspundeți

Întrebare	Puncte cheie de răspuns
„Cum se antrenează embedding-ul?”	Explicați pe scurt CBOW/Skip-gram din Word2Vec (folosirea contextului pentru a prezice cuvântul central sau invers), sau învățarea contrastivă modernă (SimCSE, Sentence-BERT). Subliniind că antrenarea se bazează pe statistici de co-apariție.
„Cum evaluezi calitatea unui embedding?”	Pe o sarcină specifică, folosiți rata de regăsire, MRR; benchmark-uri publice precum MTEB. În practică, testați A/B efectul de regăsire.
„Ce modele de embedding ai folosit? Avantaje și dezavantaje?”	OpenAI convenabil dar scump, BGE eficient în chineză, M3E ușor, E5 multilingv. Alegeți în funcție de scenariu.
„Cum alegi dimensiunea vectorului?”	Dimensiune mare = putere de exprimare mare dar cost ridicat de calcul/depozitare; dimensiune mică poate duce la subadaptare. De obicei 384/768/1536, se echilibrează prin experimente.

VII. Atenționări (aplicabile la interviu)

❌ Nu spuneți doar „embedding-ul transformă textul în vectori” – este prea superficial, intervievatorul va întreba „și apoi?”
❌ Nu fiți prea matematici (de exemplu, să vorbiți direct de spațiul Hilbert), riscați să păreți că recitați în loc să practicați.
✅ Este esențial să spuneți cum ați folosit personal embedding-ul pentru a rezolva o problemă, chiar dacă este doar un proiect de curs. Un număr concret (de exemplu, creșterea ratei de regăsire cu 17%) este mai puternic decât zece fraze teoretice.