AI入门笔记:透过函数看AI本质
AI 模型本质上是一个可学习的、复杂的非线性函数;但需要注意的是,它并不是一个明确的函数公式;而是一个类似黑盒的预测工具:你不需要了解具体原理,那是符号主义关注的;我们只需要让结果尽可能接近完美即可。其核心思想是联结主义,即通过简化函数获得真实结果的近似解。接下来我将简要回顾我的学习历程。如果大家想了解AI的话推荐观看b站up主闪客的视频:【【闪客】一小时从函数到 Transformer】 https://www.bilibili.com/video/BV1NCgVzoEG9/?share_source=
AI从何而来:一段技术演进史
如果要聊ai的发展历程,就得先看看它诞生前的技术环境。毕竟ai并不是凭空出现的,更不是一落地就能侃侃而谈、无所不能。在2017年之前,如果希望ai处理一段文本,例如翻译一句话,或者判断一句表达是否合理,几乎只有一种主流方案:循环神经网络(RNN)。那RNN是怎么工作的呢?它会按词逐个读取,每读入一个新词,就把前面词的信息压缩进一个固定大小的“记忆向量”里,然后继续向后处理。听上去似乎挺合理,但实际上问题非常多。第一,容易遗忘。让RNN读一篇文章,等它看到第50个词时,第一个词的信息往往早已模糊不清,记忆能