AI编程为何难筑护城河

2023年初，笔者在首篇关于人工通用智能的文章中提出：代码使用计算机语言，是设计完善的特殊语种，结构性强，长程关联，关系明确。可以用微语言结构的概率分布为基底，张成语言空间，程序就是该语言结构空间的点线面体。GPT可以用自己构建的高维语言空间简单方便地学习代码。代码其实也可以看成特殊的思维链，训练可以降低信息熵，让信息更可预测。大量这种语言结构示例参与预训练的话，GPT被注入足够的信息量，形成各种复杂关联的模式, 涵盖代码中的知识和知识结构。高质量的代码，可以显著地降低GPT 获取的信息熵，这也是为什么G