人工智能注意力机制:体系、模型与算法剖析

人工智能注意力机制:体系、模型与算法剖析

查阅电子书
手机扫码
  • 微信扫一扫

    关注微信公众号

因版权原因待上架

编辑推荐

系统阐述注意力机制的产生背景和发展历程。

内容简介

“注意”作为一切思维活动的起点,一直是哲学、心理学和认知神经科学的重点研究对象。随着计算机技术的发展,人类对注意力机制的模拟和应用成为计算机科学领域的热点研究方向————让计算机能够具有类似人类的注意力机制,使其能够有效地应用于对数据的理解和分析。Transformer模型诞生后,注意力机制在人工智能各大重要领域的研究和应用更是如火如荼,成果丰硕。

本书从注意力机制这一重要角度入手,阐述注意力机制的产生背景和发展历程,通过详实的理论剖析,以深入浅出的方式着重介绍注意力机制在计算机视觉、自然语言处理,以及多模态机器学习三大人工智能方向中的应用思路、模型与算法。

本书以人工智能相关专业研究人员,特别是计算机视觉与自然语言处理等领域的研发人员作为主要读者对象,一方面帮其梳理技术的发展脉络、开拓思路、构建完整的认知体系;另一方面为其剖析算法原理、深刻理解算法细节。

作者简介

作者傅罡,博士,毕业于清华大学,高级工程师。现就职于同方威视技术股份有限公司人工智能研发中心,长期负责人工智能算法研发和研发管理工作。2015年,进入清华大学-同方威视校企联合博士后工作站进行博士后研究工作。2017年至今,作为技术负责人或骨干参与多个国家级和省部级重点研究项目。长期关注人工智能技术的进展。

章节目录

版权信息

前言

第1章 人类注意力与计算机注意力——从认识自我到改造世界

1.1 本源思考:哲学中的注意力

1.2 心路历程:心理学中的注意力

1.3 深入脑海:认知神经科学中的注意力

1.4 改造世界:计算机科学中的注意力

参考文献

第2章 计算机视觉中的注意力

2.1 注意力模型的分类

2.2 视觉显著性检测原理与模型剖析

2.3 注意力机制的计算机视觉应用与模型剖析

参考文献

第3章 自然语言处理中的注意力——“前Transformer”的时代

3.1 机器翻译与Seq2Seq模型

3.2 自然语言处理中注意力机制的起源

3.3 经典算法剖析

3.4 注意力机制的形式化表示

参考文献

第4章 “只要注意力”的Transformer

4.1 Transformer的诞生

4.2 Transformer的编码器-解码器架构

4.3 Transformer的输入与输出

4.4 Transformer的注意力机制

4.5 一些其他问题

参考文献

第5章 自然语言处理中的预训练范式与Transformer的“一统江湖”

5.1 语言建模

5.2 自然语言处理中的预训练范式

5.3 预训练模型概览

5.4 基于Transformer的预训练模型

参考文献

第6章 计算机视觉中的Transformer

6.1 视觉Transformer模型概览

6.2 卷积还是注意力?

6.3 Transformer的计算机视觉应用与算法剖析

参考文献

第7章 多模态机器学习中的注意力机制

7.1 多模态技术发展史

7.2 多模态机器学习面临的挑战

7.3 视觉语言多模态模型

7.4 经典多模态模型剖析

参考文献

人工智能注意力机制:体系、模型与算法剖析是2024年由机械工业出版社出版,作者傅罡。

得书感谢您对《人工智能注意力机制:体系、模型与算法剖析》关注和支持,如本书内容有不良信息或侵权等情形的,请联系本网站。

购买这本书

你可能喜欢
空间经济:城市及城市体系模型 电子书
本书建立了一个包含空间因素的城市体系一般均衡模型,并将理论模型的政策含义与我国当前二元结构下的城市化问题结合起来,为我国农村地区城市化道路的选择提供了理论依据。
算法同事:人工智能时代的领导学 电子书
本书探索了人工智能为企业的领导与管理带来的变革,改变你的思路,让你重新思考算法在企业中扮演的角色。
数据增长模型:数智时代的全栈产品运营思维、算法与技术 电子书
本书在数字化背景下,以数据产品从业者的数据技术、数据技能、数据思维、数据方法、数据模型、产品用户/客户增长实战经验为基调,体系化撰写了数字化和数据产品的数据经验知识和案例。
北京市公共交通财政补贴测算模型与机制研究 电子书
北京市致力于公交优先战略多年,取得了系列成绩。然而,现阶段北京市公共交通财政补贴居高不下,存在诸多隐忧。本书立足于北京市公共交通财政补贴现状,分别针对地面公交和轨道交通提出适宜的补贴测算模型和机制改进措施,以期能够为北京市公共交通长足发展贡献绵薄之力。本书适合关心北京市公共交通发展的读者阅读,也适合研究领域涉及公共交通补贴的本科生或者研究生在撰写毕业论文时参考阅读。
算法设计与分析 电子书
本书共分9章,内容包括:算法设计基础、算法效率分析基础、迭代法、蛮力法、分治法、回溯法与分支界限法、贪心算法、动态规划、随机算法。