Практичне застосування ШІ, локальні моделі, дослідження та відповідальне впровадження алгоритмів.
Hybrid retrieval поєднує lexical precision для назв, кодів і рідкісних термінів із semantic recall dense embeddings, після чого нормалізує або зливає rankings.
Drift означає зміну distribution features, labels або зв’язку між ними; сама статистична відмінність не доводить падіння бізнес-якості, але вимагає діагностики.
Ensemble поєднує кілька predictors, щоб знизити variance, виправити bias або використати різні представлення; ефект залежить від якості та різноманітності помилок.
Active learning ітеративно обирає найкорисніші unlabeled examples для людини, щоб отримати потрібну якість із меншим annotation budget.
Contrastive learning формує representation, де позитивні пари мають близькі embeddings, а негативні — віддалені, без потреби давати кожному прикладу клас.
Benchmark contamination виникає, коли test items або їхні близькі похідні потрапляють у pretraining, fine-tuning, prompt templates чи ручний підбір системи.
Machine unlearning прагне зробити модель еквівалентною або близькою до моделі, яку ніколи не навчали на визначених records, без повного retraining з нуля.
Decoding перетворює розподіл next-token probabilities на послідовність; temperature, nucleus sampling і beam search оптимізують різні властивості та не виправляють знання моделі.
Bi-encoder швидко знаходить candidates за окремими embeddings, а cross-encoder читає query і document разом, щоб точніше переставити невеликий top-k.
Matryoshka representation learning навчає один embedding так, щоб його перші координати вже були корисними, а більша розмірність поступово додавала точність.
Confidence корисна лише тоді, коли відповідає реальній частоті помилок; selective system має вміти передати складний випадок людині або іншому процесу.
Preference alignment використовує пари відповідей, де людина або правило обирає кращу; RLHF і DPO відрізняються способом перетворення цих даних на оновлення policy.