எளிமையாப் புரிஞ்சுக்கலாம்

முன்னாடியே train ஆன model-க்கு கூடுதல் examples கொடுத்து சில அல்லது எல்லா parameters-ஐயும் update செய்வது fine-tuning. ஒரு task செய்யும் விதத்தையோ output style-ஐயோ மாற்ற உதவலாம். ஆனால் நல்ல examples-மும் evaluation-மும் தேவை. LoRA போன்ற முறைகளில் எல்லா original weights-ஐயும் மாற்றாமல் சிறிய adaptation-ஐ train செய்யலாம். RAG inference நேரத்தில் context கொடுக்கும்; fine-tuning parameters-ஐ மாற்றும். இரண்டையும் சேர்த்தும் பயன்படுத்தலாம். இரண்டில் எதுவும் உண்மைத்தன்மை அல்லது privacy பிரச்சினைகளை தானாகத் தீர்க்காது.

இந்த AI approach எப்படி வேலை செய்கிறது?

Transfer learning-ல் முன்பு கற்ற model அறிவைப் புதிய task அல்லது dataset-க்கு பயன்படுத்துவோம். Pretrained model parameters-ஐ கூடுதல் data வைத்து update செய்வது fine-tuning. Encoder-ஐ freeze செய்து features மட்டும் பயன்படுத்துவதும் reuse-தான். Prompt-ல் சில examples கொடுப்பது weights மாற்றாது; அது fine-tuning இல்லை.

Full fine-tuning-ல் தேர்வு செய்த முழு parameters update ஆகும். Weights மட்டுமில்லாமல் training states-க்கும் memory தேவை. Parameter-efficient முறைகளில் குறைந்த புதிய அல்லது தேர்ந்தெடுத்த parameters train செய்வோம். LoRA-வில் base weight-ஐ freeze செய்து அதன் update-ஐ lower-rank factors மூலம் represent செய்வோம். Rank, target modules, data, optimization result-ஐ பாதிக்கும். Adapter சின்னதாக இருப்பதால் inference, data costs இல்லாமல் போகாது.

மீண்டும் மீண்டும் செய்ய வேண்டிய task behavior, domain patterns, output consistency மாற்ற நல்ல examples இருந்தால் fine-tuning பார்க்கலாம். அடிக்கடி மாறும் facts அல்லது cite செய்ய வேண்டிய documents தேவை என்றால் retrieval பொருத்தமாக இருக்கலாம். முதலில் prompt baseline evaluate செய்யுங்க. தேவைக்கு ஏற்றால் RAG, fine-tuning இரண்டையும் சேர்க்கலாம்.

அனுமதி உள்ள representative examples, ஒரே மாதிரியான formats, labels தேவை. தொடர்புள்ள conversations, sources splits-ல் கலக்கக்கூடாது. Adapt செய்த model-ஐ base model-உடன் target tasks, தமிழ், English slices, பாதுகாக்க வேண்டிய திறன்களில் ஒப்பிடுங்க. Overfitting, memorization, forgetting கவனிக்கணும். Fine-tuning செய்தால் எல்லா பதிலும் உண்மையாகிவிடாது.

ஒவ்வொரு படியாகப் பார்க்கலாம்

1. Train செய்வதற்கு முன் தெளிவான prompt மற்றும் baseline-ஐ முயற்சி செய்யலாம்.
2. பொருத்தமான, பயன்படுத்த அனுமதி உள்ள examples மற்றும் தனி evaluation set தயாரிக்கலாம்.
3. மாற்றிய model-ஐ base model-உடன் ஒப்பிட்டு, புதிய தவறுகளும் செலவும் வருதா என்று பார்க்கலாம்.

உதாரணம்: task-உடன் approach-ஐ இணைக்கலாம்

Support team-க்கு ஆயிரக்கணக்கான responses-ல் ஒரே JSON fields வேண்டும். வசதி இருந்தால் schema-constrained output, validation, prompt baseline வைத்து தொடங்கலாம். தொடர்ந்து தவறுகள் இருந்தால் நல்ல input-output examples மூலம் adaptation செய்யலாம். அடிக்கடி மாறும் refund rules-ஐ weights-ல் பதிய வைப்பதைவிட retrieved policy documents-ல் வைத்திருக்கலாம்.

Base, adapted models-ஐ புதிய requests, malformed inputs, English, Tamil, mixed messages-ல் ஒப்பிடுங்க. Training loss குறைந்தது மட்டும் deployed model மாற்றுவதற்குப் போதாது.

கருத்தைப் பயன்படுத்தலாம்: உங்க புரிதலைச் சோதிங்க

அடுத்த பாடத்துக்கு முன்னாடி

• Technical பெயரை மட்டும் சொல்லாமல், கருத்தை உங்க வார்த்தைகளில் விளக்கிப் பாருங்க.
• Approach என்ன, அதன் assumptions என்ன, result-ஐ நம்ப என்ன evidence வேண்டும் என்று சொல்லிப் பாருங்க.
• பயிற்சியை முயற்சி செய்துவிட்டு, உங்க காரணத்தை விடையோடு ஒப்பிட்டுப் பாருங்க.

ஆதாரங்கள்: இன்னும் தெரிஞ்சுக்கலாம்

இந்தப் புதுப்பிப்பில் original research papers மற்றும் official documentation பயன்படுத்தப்பட்டுள்ளன. கீழே உள்ள கூடுதல் links ஆங்கிலத்தில் இருக்கும். அவற்றை முதலில் படிக்காமலேயே இந்தப் பாடத்தைப் புரிஞ்சுக்கலாம். Product versions, availability மாறலாம்.

• LoRA research paper, 2021 ↗
• Retrieval-Augmented Generation paper, 2020 ↗