🏷️ #attention

How does token‑level attention in ChatGPT affect context retention?

Comprendre les mécanismes des Transformers et leurs limites actuelles

Comment les mécanismes d'attention des LLM affectent-ils la généralisation sur tâches rares ?