Illia Polosukhin

Google 2017年的Transformer论文催生了现代LLM

开创性的2017年论文《Attention Is All You Need》引入了Transformer架构，这是现代大型语言模型（如ChatGPT）的基础。该架构通过使模型能够一次性处理整个文本并理解上下文，克服了逐字处理的局限性，从而彻底改变了AI。该论文的作者，八位Google研究人员，此后离开了公司创办了成功的AI初创公司，凸显了他们突破性研究的深远影响。