<?xml version="1.0" encoding="UTF-8"?><rss version="2.0"
	xmlns:content="http://purl.org/rss/1.0/modules/content/"
	xmlns:wfw="http://wellformedweb.org/CommentAPI/"
	xmlns:dc="http://purl.org/dc/elements/1.1/"
	xmlns:atom="http://www.w3.org/2005/Atom"
	xmlns:sy="http://purl.org/rss/1.0/modules/syndication/"
	xmlns:slash="http://purl.org/rss/1.0/modules/slash/"
	>

<channel>
	<title>Generatywne AI &#8211; Od Informacji do Wiedzy</title>
	<atom:link href="https://profind.pl/tag/generatywne-ai/feed/" rel="self" type="application/rss+xml" />
	<link>https://profind.pl</link>
	<description>Blog o informacjach na temat informacji i wiedzy</description>
	<lastBuildDate>Wed, 05 Nov 2025 12:30:06 +0000</lastBuildDate>
	<language>pl-PL</language>
	<sy:updatePeriod>
	hourly	</sy:updatePeriod>
	<sy:updateFrequency>
	1	</sy:updateFrequency>
	<generator>https://wordpress.org/?v=7.1.4</generator>
	<item>
		<title>Ujarzmić długi kontekst w LLM: 3 problemy, 1 spójny zestaw strategii</title>
		<link>https://profind.pl/2025/11/04/ujarzmic-dlugi-kontekst-w-llm-3-problemy-1-spojny-zestaw-strategii/</link>
					<comments>https://profind.pl/2025/11/04/ujarzmic-dlugi-kontekst-w-llm-3-problemy-1-spojny-zestaw-strategii/#respond</comments>
		
		<dc:creator><![CDATA[Marcin]]></dc:creator>
		<pubDate>Tue, 04 Nov 2025 19:06:27 +0000</pubDate>
				<category><![CDATA[Dziennik badań]]></category>
		<category><![CDATA[Bias Pozycyjny]]></category>
		<category><![CDATA[Długi Kontekst]]></category>
		<category><![CDATA[Ewaluacja LLM]]></category>
		<category><![CDATA[Generatywne AI]]></category>
		<category><![CDATA[Kompresja Kontekstu]]></category>
		<category><![CDATA[LLM]]></category>
		<category><![CDATA[Lost in the Middle]]></category>
		<category><![CDATA[MLOps]]></category>
		<category><![CDATA[Poradnik]]></category>
		<category><![CDATA[Prompt Engineering]]></category>
		<category><![CDATA[RAG]]></category>
		<category><![CDATA[Reranking]]></category>
		<category><![CDATA[sztuczna inteligencja]]></category>
		<guid isPermaLink="false">https://profind.pl/?p=1919</guid>

					<description><![CDATA[W praktycznych systemach z LLM (QA, analityka, asystenci, agentowe RAG) trzy zjawiska regularnie psują jakość: (1) Lost in the Middle — spadek trafności, gdy klucz leży w środku długiego promptu; (2) Prompty zaburzające/rozpraszające — kilka „kuszących” zdań psuje rozumowanie; (3) Wielkie konteksty → spadek wydajności — mimo deklarowanych okien 32k+, wyniki i stabilność spadają. Poniżej: [&#8230;]]]></description>
										<content:encoded><![CDATA[<article>
<p style="text-align: justify;">W praktycznych systemach z LLM (QA, analityka, asystenci, agentowe RAG) trzy zjawiska regularnie psują jakość: (1) <em>Lost in the Middle</em> — spadek trafności, gdy klucz leży w środku długiego promptu; (2) <em>Prompty zaburzające/rozpraszające</em> — kilka „kuszących” zdań psuje rozumowanie; (3) <em>Wielkie konteksty → spadek wydajności</em> — mimo deklarowanych okien 32k+, wyniki i stabilność spadają. Poniżej: skąd to się bierze, co działa „od zaraz”, co warto wdrożyć w modelu/pipeline’ie oraz jak to rzetelnie mierzyć.</p>
<hr />
<h2>TL;DR dla niecierpliwych</h2>
<ul>
<li style="text-align: justify;"><strong>Zamiast pchać wszystko do promptu</strong>: odzysk → reranking krzyżowy → kompresja → <em>ekstremalne ułożenie</em> (najważniejsze na początku <strong>i</strong> końcu).</li>
<li style="text-align: justify;"><strong>Rozpraszanie</strong> ograniczysz prostą instrukcją + formatem odpowiedzi, few-shotem z „hałasem”, <em>self-consistency</em>, oraz <em>gatingiem/abstencją</em> (<em>NO-RESPONSE</em>) na poziomie pasażu.</li>
<li style="text-align: justify;"><strong>Długi kontekst</strong> stabilizuj: skalowaniem pozycji (LongRoPE/YaRN), reżimem treningowym pod długie sekwencje (ProLong), adaptacją w czasie testu (LIFT), <em>streaming attention</em> z sink-tokenami i/lub pamięcią zewnętrzną.</li>
<li style="text-align: justify;"><strong>Mierz mądrze</strong>: nie tylko „needle-in-haystack”. Używaj RULER/ONERULER (także wielojęzycznie), testów z wieloma igłami oraz zadań realnych z cytowaniem źródeł.</li>
</ul>
<p><span id="more-1919"></span></p>
<section>
<h2>1. Lost in the Middle — diagnoza i rozwiązania</h2>
<h3>Dlaczego to się dzieje</h3>
<p style="text-align: justify;">Modele z popularnymi schematami pozycjonowania (np. RoPE i metody ekstrapolacji pozycji) wykazują bias pozycyjny: zwykle lepiej „trzymają” początek i koniec sekwencji, a środek bywa najsłabszy. Gdy igła ląduje w środku, trafność spada — nawet w modelach „long-context”.</p>
<h3>Co działa od ręki (bez trenowania)</h3>
<ol>
<li style="text-align: justify;">Ekstremalne ułożenie: po rerankingu umieść najistotniejsze fragmenty na <strong>początku</strong> i <strong>końcu</strong> kontekstu (środek zostaw na materiały wspierające).</li>
<li style="text-align: justify;">Iteracyjne pobieranie (Self-RAG/FLARE): nie ładuj wszystkiego naraz — generuj w krokach i dociągaj brakujące fakty.</li>
<li style="text-align: justify;">Hierarchiczne streszczenia (map → reduce): skondensuj sekcje do 1–2 zdań, z których złożysz „mapę” argumentów.</li>
</ol>
<h3>Co działa na poziomie modelu/pipeline’u</h3>
<ul>
<li style="text-align: justify;">Reranking krzyżowy (cross-encoder/LLM-ranker) przed ułożeniem kontekstu.</li>
<li style="text-align: justify;">Lepsze pozycjonowanie: LongRoPE/YaRN/PI — stabilniejsze okna; oraz Ms-PoE (<em>Found in the Middle</em>) nastawione na poprawę „środka”.</li>
<li style="text-align: justify;">SFT z debiasingiem pozycyjnym: rotacja/losowanie kolejności, „igły” w różnych pozycjach; ogólnie — augmentacja pozycyjna w duchu najnowszych zaleceń dla long-context.</li>
</ul>
<blockquote><p>Wzorzec promptu (minimalny)</p>
<pre escaped="true"><code>ZADANIE: {pytanie}
ZASADY: Używaj tylko fragmentów oznaczonych [ISTOTNE]. Pomijaj [DODATKOWE].
FORMAT:
[DOWODY] wypunktowane zdania z cytatem --&gt; {id_pasażu}
[ODPOWIEDŹ] zwięzła konkluzja
</code></pre>
</blockquote>
</section>
<hr />
<section>
<h2>2. Prompty rozpraszające i „kuszący” szum</h2>
<h3>Dlaczego to się dzieje</h3>
<p style="text-align: justify;">LLM-y są wrażliwe na dystraktory semantycznie podobne do właściwej odpowiedzi. Jedno zdanie nieistotne może odchylić rozumowanie.</p>
<h3>Taktyki bez trenowania</h3>
<ol>
<li style="text-align: justify;">Instrukcja + format odpowiedzi: poproś o wypisanie najpierw <em>dowodów/relewantnych zdań</em>, potem wniosku.</li>
<li style="text-align: justify;">Few-shot z dystraktorami: w przykładach pokaż krok „odfiltruj nieistotne → rozwiąż”.</li>
<li style="text-align: justify;">Self-Consistency: kilka niezależnych trajektorii rozumowania i głosowanie większością.</li>
<li style="text-align: justify;">Gating/abstencja na poziomie pasażu: testuj każdy fragment — jeśli nie zawiera odpowiedzi, model ma wypisać <code>NO-RESPONSE</code>; użyj tego filtru przed finałową generacją.</li>
</ol>
<h3>Pipeline RAG odporny na szum</h3>
<p style="text-align: justify;"><em>Retriever → Cross-Encoder Rerank → Filtry NLI/entailment → Kompresja (LongLLMLingua/LLMLingua-2) → Ekstremalne ułożenie → Gating/abstencja → Generacja z self-consistency.</em></p>
<blockquote><p>Wzorzec promptu (gating pasaży)</p>
<pre escaped="true"><code>Dla każdego pasażu wykonaj:
1) Czy ten pasaż zawiera informacje konieczne do odpowiedzi na "{pytanie}"?
2) Jeśli NIE, zwróć: NO-RESPONSE | {id}
3) Jeśli TAK, zwróć: EVIDENCE | {id} | {krótki_cytat}
</code></pre>
</blockquote>
</section>
<hr />
<section>
<h2>3. Wielkie konteksty i spadek wydajności</h2>
<h3>Skąd degradacja</h3>
<ul>
<li style="text-align: justify;"><strong>Pozycje</strong>: ekstrapolacja poza rozkład treningowy.</li>
<li style="text-align: justify;"><strong>Optymalizacja</strong>: długie sekwencje przeciążają KV-cache i stabilność atencji.</li>
<li style="text-align: justify;"><strong>Selekcja</strong>: realnie użyteczne jest mniej niż deklarowane okno; reszta bywa szumem.</li>
</ul>
<h3>Warstwy obrony (od praktyki po architekturę)</h3>
<h4>A. Praktyka „na jutro”</h4>
<ul>
<li>Kompresja kontekstu (LongLLMLingua/LLMLingua-2): 2–6× krótsze wejścia; w wielu zadaniach <em>bez straty</em>, a czasem z <em>poprawą</em> jakości; raportowane przyspieszenia ~1.4–2.9× zależnie od zadania.</li>
<li>Adaptacyjny retrieval (Self-RAG/FLARE): „pobierz tylko wtedy, gdy trzeba”, z autorefleksją nad źródłami.</li>
<li>Budżet pozycyjny: celuj w ~20–40% okna na twarde dowody; resztę zostaw na własny tok rozumowania modelu <em>(heurystyka — zweryfikuj A/B pod swoje dane)</em>.</li>
</ul>
<h4>B. Model i inferencja</h4>
<ul>
<li style="text-align: justify;">LongRoPE/YaRN/PI: stabilizacja i rozszerzanie okna 32k+.</li>
<li style="text-align: justify;">ProLong: kontynuowany pre-training + SFT pod długie sekwencje (modele do 512k).</li>
<li style="text-align: justify;">LIFT (test-time adaptation): adapter/uczenie z długim wejściem w czasie testu; poprawa rozumienia długiego kontekstu.</li>
<li style="text-align: justify;">Streaming + attention-sinks: stała pula tokenów-kotwic + okno przesuwne KV dla długich strumieni.</li>
<li style="text-align: justify;">Pamięć zewnętrzna: LM-Infinite/InfLLM i pokrewne — taniej niż liniowe powiększanie promptu.</li>
</ul>
<h4>C. Wielojęzyczność</h4>
<ul>
<li style="text-align: justify;">Zgodność języka (instrukcja ≈ dokumenty) albo normalizacja do jednego języka.</li>
<li style="text-align: justify;">Ewaluacja per język — rozjazdy rosną wraz z długością sekwencji; używaj benchmarków wielojęzycznych.</li>
</ul>
</section>
<hr />
<section>
<h2>Spójny pipeline produkcyjny (szkic)</h2>
<ol>
<li style="text-align: justify;"><strong>Retrieval</strong>: <code>BM25 + bi-encoder (dense)</code>; weź top-50.</li>
<li style="text-align: justify;"><strong>Reranking</strong>: cross-encoder/LLM-ranker → top-k (np. 8–12).</li>
<li style="text-align: justify;"><strong>Kompresja</strong>: LongLLMLingua-2/LongLLMLingua z celem np. 3–5k tok.</li>
<li style="text-align: justify;"><strong>Ułożenie</strong>: <em>extreme ordering</em> — najważniejsze na <strong>początek i koniec</strong>; środek = wsparcie.</li>
<li style="text-align: justify;"><strong>Gating</strong>: szybki przebieg <em>NO-RESPONSE</em> po pasażach.</li>
<li style="text-align: justify;"><strong>Generacja</strong>: <em>self-consistency</em> (n=3–7) + krytyk/refleksja nad cytatami.</li>
<li style="text-align: justify;"><strong>Strumienie 64k+</strong>: włącz <em>streaming attention</em> z sink-tokenami i budżetem KV.</li>
</ol>
<pre escaped="true"><code class="language-python"># Pseudokod
docs = retriever(q, k=50)
scored = cross_encoder.rank(q, docs)
sel = topk(scored, 10)
compressed = longllmlingua(sel, target_tokens=4000)
ordered = extreme_ordering(compressed)   # front + tail boost
kept = passage_gating(ordered, rule="NO-RESPONSE")
answer = llm.generate(kept, self_consistency=5, cite_sources=True)
</code></pre>
</section>
<hr />
<section>
<h2>Jak rzetelnie mierzyć postęp</h2>
<h3>Zestaw testów</h3>
<ul>
<li style="text-align: justify;">RULER / ONERULER: długości 8k→128k, igły wielorakie, warianty językowe (retrieval, śledzenie, agregacja).</li>
<li style="text-align: justify;">„Needle-in-the-Haystack” na sterydach: kilka igieł + „trudne negatywy”.</li>
<li style="text-align: justify;">Zadania rzeczywiste: QA/analizy z oceną <em>faithfulness</em> (czy cytuje właściwe źródła?).</li>
</ul>
<h3>Metryki</h3>
<ul>
<li style="text-align: justify;"><em>Exact/EM, F1, citation precision/recall</em>, latency, koszt tok./zapytanie, % odpowiedzi „abstain”.</li>
<li style="text-align: justify;">Krzywe jakość vs długość (8k, 16k, 32k, 64k…) i jakość vs budżet kontekstu.</li>
</ul>
<h3>Prosty plan A/B</h3>
<ol>
<li style="text-align: justify;">Zbiór ~200–500 pytań (min. 3 domeny, 2 języki).</li>
<li style="text-align: justify;">Warunki: baseline, +reranking, +kompresja, +ordering, +gating, +self-consistency.</li>
<li style="text-align: justify;">Analiza błędów: osobno „środek kontekstu”, „dystraktory”, „przepełnienie”.</li>
<li style="text-align: justify;">Raport: tabela z kosztem i poprawą jakości per warunek.</li>
</ol>
</section>
<hr />
<section>
<h2>Checklisty wdrożeniowe</h2>
<h3>Lost in the Middle</h3>
<ul>
<li style="text-align: justify;">Cross-encoder reranking przed wstawieniem do promptu.</li>
<li style="text-align: justify;">Extreme ordering (front+tail).</li>
<li style="text-align: justify;">Hierarchiczne streszczenia (map→reduce).</li>
<li style="text-align: justify;">Jeśli możliwe: LongRoPE/YaRN/PI + Ms-PoE; augmentacja pozycyjna w SFT.</li>
</ul>
<h3>Rozpraszające prompty</h3>
<ul>
<li style="text-align: justify;">Instrukcja „używaj tylko koniecznych informacji” + format z [DOWODY]→[ODP.].</li>
<li style="text-align: justify;">Few-shot z hałasem i filtrowaniem.</li>
<li style="text-align: justify;">Gating/abstencja (<code>NO-RESPONSE</code>) na pasażach.</li>
<li style="text-align: justify;">Self-consistency (n≥3) dla zadań wrażliwych.</li>
</ul>
<h3>Wielkie konteksty</h3>
<ul>
<li style="text-align: justify;">Kompresja (LongLLMLingua/LLMLingua-2) przed włożeniem do LLM.</li>
<li style="text-align: justify;">Streaming attention + sink tokens przy strumieniach.</li>
<li style="text-align: justify;">Pamięć zewnętrzna zamiast „wszystko w prompt”.</li>
<li style="text-align: justify;">ProLong/LIFT, gdy masz wpływ na model/inferencję.</li>
</ul>
</section>
<hr />
<section>
<h2>Najczęstsze anty-wzorce (i jak je naprawić)</h2>
<ul>
<li style="text-align: justify;"><strong>„Wrzucę więcej kontekstu, będzie lepiej”</strong> → <em>Nie</em>. Najpierw selekcja/kompresja, potem ułożenie.</li>
<li style="text-align: justify;"><strong>„Damy 20 przykładów few-shot”</strong> → Krótszy, dobrze dobrany wzorzec + format bywa odporniejszy.</li>
<li style="text-align: justify;"><strong>„Skoro okno to 128k, użyjemy 120k”</strong> → Realnie skuteczne bywa 20–40% okna. Resztę trzymaj w indeksie/pamięci <em>(heurystyka → sprawdź A/B)</em>.</li>
</ul>
</section>
<hr />
<section>
<h2>Na koniec</h2>
<p style="text-align: justify;">Długi kontekst bywa kuszący, ale nie jest darmowy. Najlepsze wyniki daje <em>selekcja i kompresja informacji</em>, świadome obchodzenie biasu pozycyjnego (front+tail), oraz pipeline, który <strong>wie, kiedy milczeć</strong> (gating/abstencja) i <strong>kiedy dopytać źródła</strong> (iteracyjny retrieval). Zmiany architektoniczne i treningowe potrafią dołożyć kolejne punkty, lecz najpierw wyciśnij maksimum z warstwy aplikacyjnej.</p>
</section>
<section>
<h2>Bibliografia i wybrane źródła</h2>
<ol>
<li style="text-align: justify;">Liu, N. F., et al. (2023/2024). <a href="https://arxiv.org/abs/2307.03172" target="_blank" rel="nofollow noopener">Lost in the Middle: How Language Models Use Long Contexts</a> / wersja TACL: <a href="https://aclanthology.org/2024.tacl-1.9/" target="_blank" rel="nofollow noopener">PDF</a>.</li>
<li style="text-align: justify;">Shi, F., et al. (2023). <a href="https://arxiv.org/abs/2302.00093" target="_blank" rel="nofollow noopener">Large Language Models Can Be Easily Distracted by Irrelevant Context</a> (ICLR). Alternatywnie: <a href="https://dl.acm.org/doi/10.5555/3618408.3619699" target="_blank" rel="nofollow noopener">wersja wydawnicza</a>.</li>
<li style="text-align: justify;">Hsieh, C.-P., et al. (2024). <a href="https://arxiv.org/abs/2404.06654" target="_blank" rel="nofollow noopener">RULER: What’s the Real Context Size of Your Long-Context Language Models?</a> (+ <a href="https://github.com/NVIDIA/RULER" target="_blank" rel="nofollow noopener">repo</a>).</li>
<li style="text-align: justify;">Kim, Y., et al. (2025). <a href="https://arxiv.org/abs/2503.01996" target="_blank" rel="nofollow noopener">OneRULER: Benchmarking multilingual long-context language models</a> (OpenReview: <a href="https://openreview.net/forum?id=3vxxB3Ar9r" target="_blank" rel="nofollow noopener">strona</a>).</li>
<li style="text-align: justify;">Hengle, A., et al. (2025). <a href="https://arxiv.org/abs/2504.12845" target="_blank" rel="nofollow noopener">Can LLMs reason over extended multilingual contexts?</a></li>
<li style="text-align: justify;">Ding, Y., et al. (2024). <a href="https://arxiv.org/abs/2402.13753" target="_blank" rel="nofollow noopener">LongRoPE: Extending LLM Context Window Beyond 2 Million Tokens</a>.</li>
<li style="text-align: justify;">Peng, B., et al. (2023). <a href="https://arxiv.org/abs/2309.00071" target="_blank" rel="nofollow noopener">YaRN: Efficient Context Window Extension of Large Language Models</a> (OpenReview: <a href="https://openreview.net/forum?id=wHBfxhZu1u" target="_blank" rel="nofollow noopener">strona</a>).</li>
<li style="text-align: justify;">Chen, S., et al. (2023). <a href="https://arxiv.org/abs/2306.15595" target="_blank" rel="nofollow noopener">Position Interpolation (PI)</a>.</li>
<li style="text-align: justify;">Gao, T., Wettig, A., Yen, H., Chen, D. (2024/2025). <a href="https://arxiv.org/abs/2410.02660" target="_blank" rel="nofollow noopener">How to Train Long-Context Language Models (Effectively)</a> (ACL-Findings 2025: <a href="https://aclanthology.org/2025.acl-long.366.pdf" target="_blank" rel="nofollow noopener">PDF</a>; ProLong: <a href="https://github.com/princeton-nlp/ProLong" target="_blank" rel="nofollow noopener">repo</a>).</li>
<li style="text-align: justify;">Mao, Y., et al. (2024/2025). <a href="https://arxiv.org/abs/2412.13626" target="_blank" rel="nofollow noopener">LIFT: Improving Long Context Understanding Through Long Input Fine-Tuning</a>.</li>
<li style="text-align: justify;">Xiao, G., et al. (2023/ICLR-2024). <a href="https://arxiv.org/abs/2309.17453" target="_blank" rel="nofollow noopener">Efficient Streaming Language Models with Attention Sinks (StreamingLLM)</a> (GitHub: <a href="https://github.com/mit-han-lab/streaming-llm" target="_blank" rel="nofollow noopener">repo</a>).</li>
<li style="text-align: justify;">Han, C., et al. (2024). <a href="https://aclanthology.org/2024.naacl-long.222/" target="_blank" rel="nofollow noopener">LM-Infinite: Zero-Shot Extreme Length Generalization for LLMs</a>.</li>
<li style="text-align: justify;">Xiao, C., et al. (2024). <a href="https://arxiv.org/abs/2402.04617" target="_blank" rel="nofollow noopener">InfLLM: Training-Free Long-Context Extrapolation for LLMs with an Efficient Context Memory</a>.</li>
<li style="text-align: justify;">Jiang, H., et al. (2023). <a href="https://arxiv.org/abs/2310.05736" target="_blank" rel="nofollow noopener">LLMLingua</a>; Jiang, H., et al. (2024). <a href="https://arxiv.org/abs/2310.06839" target="_blank" rel="nofollow noopener">LongLLMLingua</a> (ACL-Long 2024: <a href="https://aclanthology.org/2024.acl-long.91.pdf" target="_blank" rel="nofollow noopener">PDF</a>); Pan, Z., et al. (2024). <a href="https://arxiv.org/abs/2403.12968" target="_blank" rel="nofollow noopener">LLMLingua-2</a> (MSR: <a href="https://www.microsoft.com/en-us/research/project/llmlingua/llmlingua-2/" target="_blank" rel="nofollow noopener">strona</a>).</li>
<li style="text-align: justify;">Asai, A., et al. (2023). <a href="https://arxiv.org/abs/2310.11511" target="_blank" rel="nofollow noopener">Self-RAG: Learning to Retrieve, Generate, and Critique</a> (strona: <a href="https://selfrag.github.io/" target="_blank" rel="nofollow noopener">selfrag.github.io</a>).</li>
<li style="text-align: justify;">Jiang, Z., et al. (2023). <a href="https://arxiv.org/abs/2305.06983" target="_blank" rel="nofollow noopener">FLARE: Active Retrieval Augmented Generation</a> (EMNLP 2023: <a href="https://aclanthology.org/2023.emnlp-main.495/" target="_blank" rel="nofollow noopener">strona</a>).</li>
<li style="text-align: justify;">Zhang, Z., et al. (2024). <a href="https://arxiv.org/abs/2403.04797" target="_blank" rel="nofollow noopener">Found in the Middle: Plug-and-Play Positional Encoding (Ms-PoE)</a>.</li>
<li style="text-align: justify;">Amiraz, C., Cuconasu, F., Filice, S., Karnin, Z. (2025). <a href="https://arxiv.org/abs/2505.06914" target="_blank" rel="nofollow noopener">The Distracting Effect: Understanding Irrelevant Passages in RAG</a> (ACL 2025: <a href="https://aclanthology.org/2025.acl-long.892.pdf" target="_blank" rel="nofollow noopener">PDF</a>).</li>
<li style="text-align: justify;">(Reranking) Nogueira, R., Cho, K. (2019). <a href="https://arxiv.org/abs/1901.04085" target="_blank" rel="nofollow noopener">Passage Re-ranking with BERT</a>.</li>
<li style="text-align: justify;">(Dense late-interaction) Santhanam, K., et al. (2022). <a href="https://arxiv.org/abs/2112.01488" target="_blank" rel="nofollow noopener">ColBERTv2: Effective and Efficient Retrieval via Lightweight Late Interaction</a> (NAACL 2022: <a href="https://aclanthology.org/2022.naacl-main.272.pdf" target="_blank" rel="nofollow noopener">PDF</a>).</li>
</ol>
</section>
</article>
]]></content:encoded>
					
					<wfw:commentRss>https://profind.pl/2025/11/04/ujarzmic-dlugi-kontekst-w-llm-3-problemy-1-spojny-zestaw-strategii/feed/</wfw:commentRss>
			<slash:comments>0</slash:comments>
		
		
			</item>
	</channel>
</rss>
