← All topics / सभी विषय
Interview preparation / साक्षात्कार अभ्यास

LLM

70 questions / प्रश्न · 8 sections

LLM Fundamentals Q1–12

  1. What is LLM?LLM क्या है?
  2. Why is Large Language Model "Large" kehte important?Large Language Model को "Large" क्यों kehte हैं?
  3. What is the difference between LLM and traditional NLP model?LLM और traditional NLP model में क्या अंतर है?
  4. What is the difference between LLM and normal Deep Learning model?LLM और normal Deep Learning model में क्या अंतर है?
  5. What is LLM ka basic objective?LLM का basic objective क्या होता है?
  6. What is Next-token prediction?Next-token prediction क्या है?
  7. What is Token?Token क्या होता है?
  8. What is the difference between Word, token and character?Word, token और character में क्या अंतर है?
  9. What is Vocabulary?Vocabulary क्या होती है?
  10. What is Parameters?Parameters क्या होते हैं?
  11. What is LLM mein parameters ka role?LLM में parameters का role क्या है?
  12. What is the difference between Base model and instruction/chat model?Base model और instruction/chat model में क्या अंतर है?

LLM Architecture & Training Q13–22

  1. Explain Modern LLMs generally kis architecture par based.Modern LLMs generally किस architecture पर based होते हैं?
  2. What is Decoder-only LLM?Decoder-only LLM क्या होता है?
  3. What is Causal Language Modeling?Causal Language Modeling क्या है?
  4. What is LLM pretraining?LLM pretraining क्या है?
  5. What is Pretraining dataset?Pretraining dataset क्या होता है?
  6. What is Pretraining ke major steps?Pretraining के major steps क्या हैं?
  7. What is LLM training mein Cross-Entropy Loss ka role?LLM training में Cross-Entropy Loss का role क्या है?
  8. How would you approach LLM training backpropagation?LLM training में backpropagation कैसे उपयोग होती है?
  9. What is Scaling laws?Scaling laws क्या हैं?
  10. What is Model size, dataset size and compute ka relationship?Model size, dataset size और compute का relationship क्या है?

Context Window & Tokens Q23–30

  1. What is Context window?Context window क्या होता है?
  2. What is the difference between Context window and maximum output tokens?Context window और maximum output tokens में क्या अंतर है?
  3. Why is Context window limited important?Context window limited क्यों होता है?
  4. What is Long context ka problem?Long context का problem क्या है?
  5. What is Context window exceed hone par?Context window exceed hone पर क्या होता है?
  6. How do you handle Long documents ko LLM ke saath?Long documents को LLM के साथ कैसे handle करेंगे?
  7. What is the difference between Context quality and context length?Context quality और context length में क्या अंतर है?
  8. How would you approach LLM context efficiently manage?LLM context को efficiently manage कैसे करेंगे?

LLM Inference Q31–40

  1. What is LLM inference?LLM inference क्या है?
  2. What is the difference between Training and inference?Training और inference में क्या अंतर है?
  3. What is Prefill phase?Prefill phase क्या है?
  4. What is Decode phase?Decode phase क्या है?
  5. What is KV Cache?KV Cache क्या है?
  6. How would you approach KV Cache inference fast banata?KV Cache inference को fast कैसे बनाता है?
  7. What is TTFT?TTFT क्या है?
  8. What is Tokens per second?Tokens per second क्या है?
  9. What is Batch inference?Batch inference क्या है?
  10. How do you optimize LLM inference latency ko?LLM inference latency को कैसे optimize करेंगे?

Text Generation & Decoding Q41–50

  1. How would you approach LLM text generation?LLM text generation कैसे करता है?
  2. What is Greedy decoding?Greedy decoding क्या है?
  3. What is Temperature?Temperature क्या है?
  4. Explain Temperature increase output par effect.Temperature increase करने से output पर क्या effect होता है?
  5. What is Top-K sampling?Top-K sampling क्या है?
  6. What is Top-P / Nucleus Sampling?Top-P / Nucleus Sampling क्या है?
  7. What is the difference between Top-K and Top-P?Top-K और Top-P में क्या अंतर है?
  8. What is Beam Search?Beam Search क्या है?
  9. What is the difference between Deterministic and stochastic generation?Deterministic और stochastic generation में क्या अंतर है?
  10. How would you approach Different cases decoding strategy choose?Different उपयोग cases के लिए decoding strategy कैसे choose करेंगे?

Training Stages & Alignment Q51–57

  1. How would you approach Pretraining baad model instruction-following sikhate?Pretraining के बाद model को instruction-following कैसे sikhate हैं?
  2. What is Supervised Fine-Tuning (SFT)?Supervised Fine-Tuning (SFT) क्या है?
  3. What is RLHF?RLHF क्या है?
  4. What is DPO?DPO क्या है?
  5. What is the difference between SFT, RLHF and DPO?SFT, RLHF और DPO में क्या अंतर है?
  6. What is Alignment?Alignment क्या होता है?
  7. What is Base model ko chat model mein convert karne ka high-level process?Base model को chat model में convert करने का high-level process क्या है?

Hallucination & Limitations Q58–64

  1. What is LLM hallucination?LLM hallucination क्या है?
  2. Why is LLM hallucinate important?LLM hallucinate क्यों करता है?
  3. How do you reduce Hallucination ko?Hallucination को कैसे reduce करेंगे?
  4. Why is LLM factual information unreliable important?LLM factual information के लिए unreliable क्यों हो सकता है?
  5. What is LLM knowledge cutoff?LLM knowledge cutoff क्या होता है?
  6. What is LLM ki major limitations?LLM की major limitations क्या हैं?
  7. How do you handle Production application mein hallucination ko?Production application में hallucination को कैसे handle करेंगे?

Evaluation, Optimization & Production Q65–70

  1. What is LLM evaluation?LLM evaluation क्या है?
  2. What is Perplexity?Perplexity क्या है?
  3. How do you evaluate LLM output quality ko?LLM output quality को कैसे evaluate करेंगे?
  4. How do you reduce LLM cost ko?LLM cost को कैसे reduce करेंगे?
  5. How do you reduce LLM latency ko?LLM latency को कैसे reduce करेंगे?
  6. Describe Ek production-grade LLM application ka complete architecture.एक production-grade LLM application का complete architecture समझाएँ.