森哥 Ideas

AI’s Open Source Productivity Explosion: How Do We Keep It Secure?Last year, a developer bragged on Twitter: used Copilot to write a complete backend system, finished in three days. Hundreds of replies below, half marveling at the efficiency, half asking “did you review the code?” He never answered the second question. The Productivity Explosion is RealThe data doesn’t lie. GitHub statistics show that AI-generated code commits increased 300% year-over-year in 2024. This isn’t incremental impr...

AIがオープンソースの生産性爆発を引き起こす中、セキュリティをどう保障するのか？昨年、ある開発者がTwitterで自慢していました：Copilotを使って完全なバックエンドシステムを書き、3日で完成したと。下には数百のコメントがあり、半分は効率に驚嘆し、半分は「コードをレビューしたのか？」と尋ねていました。 彼は2番目の質問には答えませんでした。 生産性の爆発が起きているデータは嘘をつきません。GitHubの統計によると、2024年にAIが生成したコードのコミット量は前年比300%増加しました。これは漸進的な改善ではなく、桁違いの飛躍です。 最近、私はある現象を観察しました：多くのオープンソースプロジェクトのコミット履歴が奇妙になっています。以前は一つの機能に数日の反復が必要だったのが、今では一度に大量のコードを一括コミットすることが多くなっています。コミットメッセージを見れば明らかにわかります： 123feat: add complete authentication system with JWT, refresh tokens, rate limiting, and ema...

AI导致开源生产率爆炸，安全如何保障？去年有个开发者在Twitter上炫耀：用Copilot写了一个完整的后台系统，三天完工。底下几百条回复，一半在惊叹效率，一半在问”你审查代码了吗”。 他没有回答第二个问题。 生产力爆炸正在发生数据不会骗人。GitHub的统计显示，2024年AI生成的代码提交量同比增长了300%。这不是渐进式的改进，而是量级的跃迁。 我最近观察到一个现象：很多开源项目的提交历史变得很奇怪。以前一个功能可能需要几天的迭代，现在往往是一次性提交一大坨代码。看commit message能明显感觉出来： 123feat: add complete authentication system with JWT, refresh tokens, rate limiting, and email verification+2847 -0 这不是一个人三天能写完的东西，但AI可以在三个小时内生成初稿。 问题来了：谁在审查这2847行代码？ 安全审查的困境传统的代码审查假设是这样的：开发者写代码，审查者逐行检查逻辑、性能、安全问题。这个模式在代码量可控的时候还能运转。 但A...

One of AI Coding’s Stumbling Blocks: The Problem of Implicit Contracts in Programs Introduction: When AI Meets “Unspoken” RulesRecently, while experimenting with AI assistants for code generation, I’ve noticed an interesting phenomenon: some code looks perfect—clear logic, correct syntax—but simply doesn’t work as expected. Upon deeper analysis, I found that the root cause often lies not in the code itself, but in those implicit contracts that are never explicitly written down yet are crucial...

AI Coding 的绊脚石之一：程序的隐式契约问题 引言：当AI遇到”不言而喻”的规则最近在尝试用AI助手编写代码时，我发现了一个有趣的现象：有些代码看起来完美无缺，逻辑清晰，语法正确，但就是无法正常工作。经过深入分析，我发现问题的根源往往不在于代码本身，而在于那些从未被明确写出，却对程序运行至关重要的隐式契约。 这些隐式契约就像是软件开发中的”潜规则”——人类开发者通过经验和上下文理解它们，但AI却常常在这些规则面前碰壁。 什么是隐式契约？隐式契约（Implicit Contract）指的是那些没有被明确写在代码或文档中，但对程序正确运行至关重要的假设、约定和期望。它们通常包括： 性能期望：函数应该在多长时间内完成 资源使用：函数会消耗多少内存、CPU或网络带宽 副作用：函数会修改哪些外部状态 错误处理：在什么情况下函数应该抛出异常，什么情况下应该静默处理 并发安全：函数是否可以在多线程环境下安全调用 实例分析：AI编程中的隐式契约陷阱案例一：文件读取的”合理”超时1234# AI生成的代码def read_large_file(file_path): with o...

AI Codingの障害の一つ：プログラムの暗黙的契約問題序論：AIが「暗黙の了解」のルールに出会うとき最近AIアシスタントを使ってコードを書く際、興味深い現象を発見した：あるコードは完璧に見え、ロジックが明確で、構文も正しいのに、正常に動作しない。詳しく分析すると、問題の根源はコード自体ではなく、明確に書かれたことはないが、プログラムの実行に不可欠な暗黙的契約にあることが多い。 これらの暗黙的契約はソフトウェア開発の「暗黙のルール」のようなもの——人間の開発者は経験とコンテキストから理解するが、AIはしばしばこれらのルールの前で壁にぶつかる。 暗黙的契約とは？暗黙的契約（Implicit Contract）とは、コードやドキュメントに明示的に書かれていないが、プログラムの正常な実行に不可欠な仮定、約束、期待を指す。通常以下を含む： パフォーマンス期待：関数はどれくらいの時間で完了すべきか リソース使用：関数はどれだけのメモリ、CPU、ネットワーク帯域幅を消費するか 副作用：関数はどの外部状態を変更するか エラー処理：どのような状況で関数は例外を投げるべきか、どのような状況で黙...

When AI Meets Rust: A Fateful Encounter?In recent years, the pace of AI development has been dizzying. From large language models to generative AI, from autonomous driving to robotics, AI is permeating every aspect of our lives. Meanwhile, a programming language called Rust has been quietly rising—it has topped Stack Overflow’s “Most Loved Programming Language” survey for eight consecutive years. This raises an intriguing question: when the AI wave meets Rust’s rise, what kind of chemical rea...

AI と Rust の出会い：運命的な邂逅？ここ数年、AI の発展スピードは目を見張るものがあります。大規模言語モデルから生成 AI、自動運転からロボットまで、AI は私たちの生活のあらゆる面に浸透しています。同時に、Rust というプログラミング言語も静かに台頭しています—Stack Overflow の「開発者が最も愛する言語」ランキングで8年連続トップを獲得しています。 これは自然と考えさせられます：AI の波と Rust の台頭が出会った時、どのような化学反応が生まれるのか？Rust は AI 時代の最高のプログラミング言語になるのか？ Rust の三つの切り札1. メモリ安全性、ガベージコレクション不要AI 分野では、メモリ管理は頭痛の種です。Python はシンプルで使いやすいですが、GC（ガベージコレクション）による停止はリアルタイムシステムでは致命的になりかねません。C++ はパフォーマンスは強力ですが、メモリ安全性の問題で開発者は夜も眠れません。 Rust のユニークな点は：コンパイル時にメモリ安全性を保証することです。所有権（ownership）、借用（bor...

当 AI 遇上 Rust：一场命中注定的相遇？最近几年，AI 的发展速度让人眼花缭乱。从大语言模型到生成式 AI，从自动驾驶到机器人，AI 正在渗透到我们生活的方方面面。与此同时，一门名为 Rust 的编程语言也在悄然崛起——它连续八年蝉联 Stack Overflow “最受开发者喜爱语言”榜首。 这不禁让人思考：当 AI 的浪潮遇上 Rust 的崛起，会产生怎样的化学反应？Rust 会成为 AI 时代的最佳编程语言吗？ Rust 的三大王牌1. 内存安全，无需垃圾回收在 AI 领域，内存管理是个头疼的问题。Python 虽然简单易用，但 GC（垃圾回收）带来的停顿在实时系统中可能是致命的。C++ 性能强大，但内存安全问题让开发者夜不能寐。 Rust 的独特之处在于：它在编译期就保证了内存安全。通过所有权（ownership）、借用（borrowing）和生命周期（lifetime）系统，Rust 让你写出既安全又高效的代码，而无需运行时垃圾回收。 想象一下，在自动驾驶系统中，一个内存泄漏可能导致灾难性后果。Rust 的编译期检查，就像是为 AI 系统装上了一道安全门。 2. ...

Standing at the CrossroadsEvery few decades, human society encounters a crossroads. When the steam engine arrived, some said it would liberate human hands. Others said it would reduce workers to slaves of machines. Both predictions came true — the Industrial Revolution created unprecedented prosperity and also produced sweatshops and child labor. When the internet arrived, some said it would enable free information flow and eliminate information asymmetry. Others said it would create filter b...