எளிமையாப் புரிஞ்சுக்கலாம்

Production AI-ல் input validation, model மற்றும் prompt versions, evaluation checks, deployment, monitoring, மீண்டும் பழைய நிலைக்குத் திரும்பும் வழி—எல்லாமே வரும். பதில் தரம் மட்டுமல்லாமல் latency, failures, செலவையும் கவனிக்கணும். முதலில் குறைந்த users-க்கு வெளியிட்டு fallback தயாராக வைத்திருக்கலாம். ஒரு model பெயர் பிரபலம்னு மட்டும் architecture முடிவு செய்யக்கூடாது. நம்ம தேவைகள், data handling, licence, operating limits அடிப்படையில் சோதித்து தேர்வு செய்யணும்.

இந்த AI approach எப்படி வேலை செய்கிறது?

Production AI system-ல் model மட்டும் இல்லை. Input handling, preprocessing, retrieval, tool boundaries, output validation, serving, monitoring, recovery எல்லாம் சேரும். Notebook-ல் நல்ல result வந்தது ஒரு experiment-க்கான evidence. அது முழு operating application தயாராகிவிட்டது என்று இல்லை. Failure-க்கு யார் பொறுப்பு, reliable answer தர முடியாதபோது user-க்கு என்ன காட்டணும் என்று முடிவு செய்யணும்.

Model, tokenizer, prompts, datasets, retrieval index, code versions ஒன்றோடு ஒன்று பதிவு செய்யுங்க. Model name மாறாமலேயே மற்றொரு component மாற்றத்தால் quality மாறலாம். Offline evaluation gate-க்கு பிறகு task-க்கு ஏற்ற limited rollout அல்லது shadow evaluation செய்யலாம். Test செய்த rollback path, சாத்தியமான deterministic fallback இருக்கட்டும்.

Latency, throughput, errors, cost மட்டுமல்ல quality-யும் monitor செய்யணும். Correct labels தாமதமாகக் கிடைக்கலாம்; reviewed samples, user feedback, task outcomes சேர்த்துப் பார்க்கலாம். Inputs மாறுவது data drift. Target-க்கு தொடர்பான relationship மாறுவது concept drift. Drift alert வந்ததும் தானாக retrain செய்வதற்குப் பதிலாக காரணம் ஆராயணும்.

Structured output validate செய்து, tools-க்கு தேவையான குறைந்த permission மட்டும் கொடுத்து, retries, timeouts கட்டுப்படுத்துங்க. ஒரே side effect இருமுறை நடக்காமல் பார்த்துக்கணும். Debug செய்யத் தேவையான logs வைத்தாலும் sensitive content குறைக்கணும். Provider outage, retrieval failure, unsupported request மூன்றுக்கும் ஒரே recovery path பொருந்தாது.

ஒவ்வொரு படியாகப் பார்க்கலாம்

1. Dataset, prompt, model settings, evaluation set—இவற்றுக்கு versions வைத்திருக்கலாம்.
2. Release செய்யும் முன் என்ன checks pass ஆகணும் என்று முடிவு செய்து failure cases-ஐச் சோதிக்கலாம்.
3. Data மாறுதலும் புதிய தவறுகளும் வருகிறதா என்று monitor செய்து rollback வழி வைத்திருக்கலாம்.

உதாரணம்: task-உடன் approach-ஐ இணைக்கலாம்

புதிய support model English answers மேம்படுத்துகிறது; ஆனால் தமிழ் policy accuracy குறைகிறது என்று வைத்துக்கலாம். Overall average மட்டும் பார்க்கும் release gate இதைத் தவறவிடலாம். முக்கிய language slices, answer இல்லாத questions handling-க்கு criteria வைத்து, பிறகு limited rollout செய்யணும்.

Access restoration முடிந்த பிறகு provider timeout ஆனால் agent-ஐ முழுவதும் மறுபடியும் இயக்குவது action repeat ஆக வழிவகுக்கும். Operation identifier வைத்து action state சரிபார்த்த பிறகுதான் retry செய்யணும். இது AI-ஐச் சுற்றியுள்ள software reliability; பெரிய language model தானாகக் கொடுக்கும் வசதி இல்லை.

கருத்தைப் பயன்படுத்தலாம்: உங்க புரிதலைச் சோதிங்க

அடுத்த பாடத்துக்கு முன்னாடி

• Technical பெயரை மட்டும் சொல்லாமல், கருத்தை உங்க வார்த்தைகளில் விளக்கிப் பாருங்க.
• Approach என்ன, அதன் assumptions என்ன, result-ஐ நம்ப என்ன evidence வேண்டும் என்று சொல்லிப் பாருங்க.
• பயிற்சியை முயற்சி செய்துவிட்டு, உங்க காரணத்தை விடையோடு ஒப்பிட்டுப் பாருங்க.

ஆதாரங்கள்: இன்னும் தெரிஞ்சுக்கலாம்

இந்தப் புதுப்பிப்பில் original research papers மற்றும் official documentation பயன்படுத்தப்பட்டுள்ளன. கீழே உள்ள கூடுதல் links ஆங்கிலத்தில் இருக்கும். அவற்றை முதலில் படிக்காமலேயே இந்தப் பாடத்தைப் புரிஞ்சுக்கலாம். Product versions, availability மாறலாம்.

• Hugging Face: model cards ↗
• NIST: Generative AI Profile ↗
• scikit-learn: model evaluation ↗