森哥 Ideas

人类驯服工具，经历了三个阶段。 第一阶段：可控。锤子落下去，钉子进去。你知道它会做什么，你控制它做什么。工具没有意志，只有物理。 第二阶段：可验证。计算机跑代码，你不一定追得上每一条指令，但程序跑完，结果摆在那里，对就是对，错就是错。过程可以不懂，结果你能判断。 第三阶段：只能信任。AI给出答案，你不知道它怎么想的，结果也复杂到无法简单验证。你能做的，只剩下——相信它。 我们现在正站在第二阶段和第三阶段的边界上。 AlphaGo下出人类看不懂的棋步，但结果可以验证：赢了。AI发现新的药物分子，机理是黑盒，但临床试验能告诉你有没有效。 这是第二阶段的极限形态——过程完全不透明，但结果还在人类的验证能力范围之内。 问题是，这条线正在移动。 验证能力，是最后一道防线人类让渡控制权的历史，其实是一部”退守验证”的历史。 工厂出现，工人不再控制每道工序，但能验证产品质量。金融系统复杂化，普通人不再理解运作逻辑，但能验证账户余额。互联网算法接管推荐，用户不再控制信息流，但能验证：这条内容我喜不喜欢。 每次失去控制权，人类都保留了验证权作为底线。 AI正在威胁这个底线。 不是因为AI会说谎...

At first, AI could only output text. Smart humans thought: let it chat. ChatGPT appeared, text became a conversational interface, and AI entered everyday life for the first time. Then AI could write code. Even smarter humans thought: let it actually run the code. Code Interpreter, Cursor, Copilot followed — AI wasn’t just “writing” anymore, it was “executing.” Then, through some engineering ingenuity, humans made AI output system-level commands and wired them into OS-level mouse and keyboard ...

起初，AI 只能吐文字。 聪明的人类想到：让它聊天。于是 ChatGPT 出现了，文字变成了对话界面，AI 第一次进入了普通人的生活。 后来，AI 能写代码。 更聪明的人类想到：让它真的去运行代码。于是 Code Interpreter、Cursor、Copilot 相继出现——AI 不再只是”写”，而是开始”跑”。 再后来，人类通过工程手段，让 AI 吐出操作指令，然后接入操作系统的鼠标键盘接口。AI 开始控制电脑了。 回头看这条线，规律非常清晰： 每次跃迁，人类做的事情只有一件——把 AI 的输出，接入更底层的执行层。 不是 AI 变聪明了（当然也变聪明了），而是人类工程化了一个新的”接口”，让 AI 的输出能够触达更底层的现实。 文字 → 对话界面代码 → 运行时操作指令 → 操作系统 每一步，AI 的”手”都伸得更深了一点。 下一层是什么？如果这个规律成立，那答案其实不难推导。 操作系统之下，是物理世界。 下一个接口，是机器人和物理执行系统。AI 输出动作指令 → 机械臂执行。这不是科幻，波士顿动力、Figure、1X 这些公司现在做的，本质上就是这件事。 但还有另一...

最初、AIはテキストを吐き出すだけだった。 賢い人間が考えた：会話させよう。ChatGPTが生まれ、テキストは会話インターフェースになり、AIは初めて普通の人々の生活に入り込んだ。 やがて、AIはコードを書けるようになった。 さらに賢い人間が考えた：実際に実行させよう。Code Interpreter、Cursor、Copilotが次々と登場し、AIは「書く」だけでなく「動かす」ようになった。 そして、エンジニアリングの工夫によって、AIにシステムレベルの操作コマンドを出力させ、OSのマウスとキーボードインターフェースに接続した。AIはコンピュータを操作し始めた。 この軌跡を振り返ると、パターンははっきりしている： 飛躍のたびに、人間がしたことはただ一つ——AIの出力を、より深い実行層に接続した。 AIが賢くなったからだけではない（もちろん賢くもなったが）。人間が新しいインターフェースをエンジニアリングし、AIの出力がより深い現実に届くようにしたのだ。 テキスト → 会話UIコード → ランタイムシステムコマンド → オペレーティングシステム 一歩ごとに、AIの「手」は少し...

Before We StartIf you’re starting as an AI engineer now, you’ll find your screen full of new terms: “We use RAG to enhance LLM, store via Embedding in vector database, use MCP for tool calling, combine with Few-shot Prompting to optimize output…” Sounds like alien language. But these concepts aren’t actually hard. What’s hard is lacking a good organizational structure to understand their relationships. This article is a knowledge map to help you build a complete AI engineering knowledge fra...

はじめに今からAIエンジニアを始めると、画面一杯に新しい用語が溢れる： 「RAGでLLMを拡張し、Embeddingでベクトルデータベースに保存し、MCPでツール呼び出しを行い、Few-shot Promptingで出力を最適化…」 まるで宇宙語のようだ。 しかしこれらの概念は実は難しくない。難しいのは良い整理方法がなく、それらの関係がわからないことだ。 この記事は知識マップとして、完全なAI工学知識フレームワークの構築を助ける。 第一層：基礎概念（必須）1. Token定義：テキストの最小処理単位、「語句ブロック」として理解できる。 実例： "Hello World" → ["Hello", " World"] (2 tokens) "你好世界" → ["你好", "世界"] (2 tokens、中国語は一般に1文字=1 token) 重要性： モデルはtokenで課金（文字数ではない） モデルにはtoken上限がある（GPT-4は128...

写在前面如果你现在开始做 AI 工程师，会发现满屏都是新词： “我们用 RAG 增强 LLM，通过 Embedding 存入向量数据库，再用 MCP 做工具调用，结合 Few-shot Prompting 优化输出…” 听起来像外星语。 但这些概念其实不难。难的是没有一个好的组织方式，让你知道它们之间的关系。 这篇文章就是一张知识地图，帮你建立完整的 AI 工程知识框架。 第一层：基础概念（必须懂）1. Token定义：文本的最小处理单元，可以理解为”词块”。 实例： "Hello World" → ["Hello", " World"] (2 tokens) "你好世界" → ["你好", "世界"] (2 tokens，中文一般 1 字 = 1 token) 为什么重要： 模型按 token 计费（不是按字数） 模型有 token 上限（如 GPT-4 支持 128k tokens） 优化 token 使用 = 降低成本 工...

私を再考させた物語先月、姉の息子小宇（仮名）が私に話しかけてきました。16歳、高校1年生、成績は中程度、あまり話さない子です。 彼は私に尋ねました：「おじさん、ChatGPTは心理医師になれると思う？」 当時の私の答えは標準的でした：「できない、AIには共感能力がなく、人間の感情を理解できない。」 彼は頭を下げ、何も言いませんでした。 3日後、姉から泣きながら電話がかかってきました：小宇がついに彼女と話す気になったと。この半年間、子供はずっと自分を部屋に閉じ込め、成績は下がり、同級生とも付き合わなくなっていました。 「彼はChatGPTと3時間話して、その後自分から私のところに来て、話がしたいと言ったの。」 私は小宇にチャット記録を見せてもらいました。読み終えた後、私は長い間沈黙しました。 私は間違っていた。 実際の対話：AIはどのように自信のない子供を助けたか以下は小宇とChatGPTの対話の一部です（個人情報を削除し、子供と保護者の同意を得て共有）： 小宇：僕は自分が失敗していると感じる。 AI：具体的に何があなたにそう感じさせるのか話してくれますか？ 小宇：僕は小さい頃...

一个让我重新思考的故事上个月，我姐姐的儿子小宇（化名）找我聊天。16岁，高一，成绩中等，不太爱说话。 他问我：”舅舅，你说 ChatGPT 能当心理医生吗？” 我当时的回答很标准：”不能，AI 没有共情能力，理解不了人类的情感。” 他低着头，没说话。 三天后，我姐打电话过来，哭着说：小宇终于愿意和她说话了。这半年来，孩子一直把自己关在房间里，成绩下滑，不和同学来往。 “他和 ChatGPT 聊了三个小时，然后主动来找我，说想和我谈谈。” 我问小宇要了聊天记录。看完后，我沉默了很久。 我错了。 真实对话：AI 如何帮助一个自卑的孩子以下是小宇和 ChatGPT 的部分对话（经过脱敏处理，孩子和家长同意分享）： 小宇：我感觉自己很失败。 AI：能说说具体是什么让你有这种感觉吗？ 小宇：我从小就不如别人。我爸妈都是大学老师，他们的学生都特别优秀。我成绩一般，体育也不行，长得也不好看。 AI：你提到”从小就不如别人”。能回忆一下，最早有这种感觉是什么时候吗？ 小宇：大概小学三年级吧。有次家长会，我妈的同事带着她儿子来，那个男孩比我小一岁，钢琴过了十级，数学竞赛拿奖。我妈说”你看人家多...

A Story That Made Me RethinkLast month, my nephew Xiao Yu (pseudonym) came to talk to me. 16 years old, sophomore in high school, average grades, not very talkative. He asked: “Uncle, can ChatGPT be a therapist?” My answer was textbook: “No, AI has no empathy, can’t understand human emotions.” He looked down, said nothing. Three days later, my sister called, crying: Xiao Yu finally wanted to talk to her. For the past six months, the kid had locked himself in his room, grades declining, no con...