🏷️ #attention

Comprendre les mécanismes des Transformers et leurs limites actuelles

Comment les mécanismes d'attention des LLM affectent-ils la généralisation sur tâches rares ?