Bitter Lesson Engineering | Daniel Miessler

Bitter Lesson Engineering | Daniel Miessler


Bitter Lesson Engineering

I have a new concept I’m using everywhere in my AI engineering called Bitter Lesson Engineering (BLE).

The idea comes from Richard Sutton’s essay, “The Bitter Lesson”.

The essay argues that all of our human attempts to control, modify, and enhance AI are kind of not worth it, because when you increase the intelligence of AI—through more hardware or better algorithms or whatever—that will increase intelligence far more than anything we can do with our human approaches.

It’s stronger than that actually. Not only will it not be better if we try to help, but it will likely be far worse.

Essentially, we should avoid poisoning AI’s native capabilities with our supposedly superior guidance, because it’s not actually superior.

Some other quotes from the essay:

“The biggest lesson that can be read from 70 years of AI research is that general methods that leverage computation are ultimately the most effective, and by a large margin.”

“We want AI agents that can discover like we can, not which contain what we have discovered.”

“We should build in only the meta-methods that can find and capture this arbitrary complexity.”

“Building in our discoveries only makes it harder to see how the discovering process can be done.”

This is about more than just agentic engineering

This is obviously super important for people who are building AI, but it goes way beyond that.

Anything you are doing with AI, where you are asking AI to help you, needs to follow the BLE (Bitter Lesson Engineering) principle.

LIFE MANAGEMENT

If you’re trying to get help managing your life, like managing routines, improving your finances, etc: don’t give it a bunch of your own accumulated methodologies and tell it to implement them. Instead, articulate exactly the life you want to have.

BUSINESS

If you’re getting help starting a business, don’t tell it how to help you: tell it the business you want to build and the life you want to have.

GENERAL AI INTERACTION

Focus less on the steps of execution and focus more on the results you want and don’t want.

My takeaways

So here’s what I recommend you take from all this.

  1. The way we think about logic and intelligence and efficiency are very likely primitive
  2. So we shouldn’t be hard-coding those rules or ideas into how we “teach” AI to do things
  3. As AI gets smarter it’ll come up with way better ways to do the same thing from first-principles

So my simple BLE rule for myself when building AI systems, or really doing anything with AI going forward, is:

Don’t confuse the “what” with the “how”.

Be extremely specific about what you wantand then give the best tools you have to the best AI you have, and let it figure out how to execute.

This means as the AI gets smarter, our scaffolding becomes more about preferences than execution, ultimately making our entire system meta-upgradeable instead of BLE-hobbled.



Source link

Postagens Similares

  • 成为人工智能反脆弱的三个组成部分

    我有一个新想法,即为人工智能做好准备而应该尝试做的一切基本上可以分为三部分。 首先是深入了解事物是如何运作的,尤其是你关心的事物。如果你是哲学家或政治家,那就意味着心理学、社会学、政治学、政府以及所有类似的东西。如果你是一个喜欢用手建造东西的技术人员,也许那就是土木工程。如果是软件工程,那么就是编程、系统、技术堆栈等等。 所以这是第一件事:深入理解。这是你无法外包的事情。你不能牺牲它。你必须追求、保持并加深对事物运作方式的深刻理解。这可以说是三者中最重要的一个。 如果你不深入了解事物,你就无法分辨什么是高质量的,什么是低质量的。你希望能够看到某些东西并知道它是废话,或者看到某些东西并知道它的质量是高还是低,因为你对那个主题了如指掌。 第二点是你实际上必须想要一些东西。你必须以一定的频率产生共鸣。你必须有某种内在的渴望,想要以不同的方式看待世界。你必须想要一些不存在的东西存在。你必须希望某些东西以不同于现在的方式存在。你必须希望世界变得与现在不同。 这可以是任何事情,从医疗保健的方式,到政府的工作方式,再到现在不存在的修理自行车轮胎的企业,而你认为​​应该以不同的方式来做。 你必须看看今天的事情是如何运作的,并对其做出反应——一种本能的反应。你必须深深地希望它与众不同,或者想要创造一些不存在的东西。这是一个驱动器。这是一种激情。 这绝对是最人性化的部分。这就是我将艺术定义为重要事物的间接交流的原因。 “重要”部分意味着它对人类很重要。 这是很多人都没有的部分,如果没有的话,这确实是最难得到的部分。你可能遇到的最糟糕的情况之一就是拥有技能,因为你了解事情是如何运作的,但实际上并不希望任何事情有所不同,因为你不关心任何事情。你什么也不想做。你没有意见。在我们正在进入的人类进化阶段,这是一个非常糟糕的地方。 第三块是能力。机构。真正让事情发生的能力。 当你处于第二步时,你实际上希望某些东西存在——因为从第一步开始,你实际上了解了事物如何工作,并且你希望它们以不同的方式工作,或者你想要一个尚不存在的东西存在,或者你想要制作一件艺术品或一项技术——现在你需要有能力来实现这一点。 这可能包括管理技能,但我主要谈论的是允许你进行构建的技术技能。这是一个广泛的事情。它可能是创造新花园产品的能力,设计花园的能力,设计新房屋风格的能力,或者制作太阳能电池板的新方法。所以它可以是技术性的,但也可以是任何能让你创造或改变世界的技能。 所以第一件让你了解这个世界。第二部分是渴望看到世界上不同的东西。第三部分是改变世界的能力——建设或创造世界。 显然,第三点与人工智能技能密切相关,因为人工智能是目前人们能够从第一步和第二步(从理解和愿望)转向实际采取行动并实际改变或创造事物的最大杠杆。这三者以一种非常强大的方式结合在一起,而且它们绝对相互依赖。 大多数问题(无论规模如何)都可以简化为当前到期望的状态转换问题。 人工智能的最终用例:从当前状态过渡到期望状态(2025 年) 你可以拥有第三名的所有技能,但如果你不想做任何事情,那么你只是代表别人做这些技能,这也可以。如果你有第三名,但没有第二名或第一名,那么你并不真正了解事情是如何运作的,但你能够制造事情,你能够执行——这会让你属于经理或政治家的类别。你能够让人们做事。我的意思是,你可能有能力让事情发生或建造东西,但对建造什么没有真正的想法。通常,如果你拥有第三名,那么你确实拥有相当数量的第一名,但情况并非总是如此。 正如我所说,没有第二名是最糟糕的。很多人拥有一、三,但他们实际上并不想做什么。他们实际上不知道要做什么。他们甚至可能希望自己想做点什么。这是一个非常悲伤的地方。 但绝对最糟糕的是不知道事情是如何运作的。 好消息是,如果你有第二点想要了解事物如何运作的愿望,你实际上可以研究和了解事物如何运作。你可以很容易地解决第一个问题,尤其是现在有了人工智能。您只需了解事情是如何运作的即可。甚至没有严格要求传统教育。事实上,它可能会成为一个障碍,因为它太慢了。您可以从 YouTube 上学到大量的东西,并通过学习、人工智能练习以及通过反复试验来学习和提升自己,成为某方面的深入学科专家。因此,如果你没有第一名,有很多方法可以得到它。 如果你没有第二名,那就需要进行一些自我反省。这需要一些攻击性。你需要回到小时候的自己。你必须问自己:你曾经有过这样的火灾吗?你曾经有过激情吗?你曾经想创造一些东西吗?如果是这样,我们如何回到这个话题?如果你从来没有这样做过,那么你可以在那里做一些其他练习,但会更困难。你可以阅读有关冥想的内容,你也可以尝试迷幻药或类似的东西。有很多不同的选择,除了里尔克的诗歌之外,我都没有直接推荐。 第三个:如果你没有实际制造、构建和构建事物并采取行动的技能,这也是你可以学习的东西。你可以通过人工智能将很多事情外包出去。事实上,你的人工智能技能属于第三类,也属于第一类,因为深入研究和学习人工智能技能始于深入理解和学习人工智能本身。所以我会把它分为第一类和第三类。但本质上,第三个应该重点关注如何在人工智能方面变得非常出色,这样你就可以在学习第一部分时将你不理解的部分委托给别人,如果这是你想学习的事情之一的话。 例如,如果你不擅长设计,但你擅长很多其他事情,并且对特定问题空间有深入的了解,那么你可以将这些事情委托给第三位的人工智能。但重要的是,您不想将问题或解决方案的各个部分委托给需要第一名的深入知识的地方。保持对问题和解决方案的深刻理解至关重要。 所以我想说,这三连胜本质上是人工智能时代如何前进。当一切都在变化时,主要关注深入理解你最关心的事情。深入了解您需要成为专家的事情。这就是从物理学上一直向下的尽可能多的。如果是计算机,你可以更好地了解硬件、软件、CPU、内存、网络、操作系统、应用程序、编程。越深越好。 你想要的是对你所处的整个空间有深刻的基本了解。许多问题来自那些应该有这种了解但实际上没有的人,这将导致他们在尝试构建解决方案时在多个层面上摸索。 Source link

  • Favori Beş: Queer İrlanda Romanı, Bölüm II

    Bölüm I için buraya tıklayın. Gráinne O’Hare’den Susuzluk Tuzağı Juno, Karl Geary Sunburn’den Bacakları Seviyor ve Chloe Michelle Howarth’tan Heap Earth Upon It’e, Lucy Caldwell’den Bugünlerde Caroline O’Donoghue’den Rachel Olayı Bonus: Bunların hepsi yetişkinlere yönelik kurgu, ancak YA’da Adiba Jaigirdar’dan The Dos and Donuts of Love’a göz atın Source link

  • ソファ 5.0 – ソファ

    ソファ 5.0 – ソファ ソファ: ダウンタイム オーガナイザー Sofa 5 は、番組をエピソードごとに追跡し、ポッドキャストを再生し、旅行を計画し、統計情報などを保持します。すべてを 1 つのアプリで。 非常に柔軟な進捗追跡エクスペリエンス 先月から始まった番組。ナイトスタンドに一冊の本。もう一度やりたくなるゲーム。新しいものを見つけるのは簡単です。どこから中断したかを思い出すのは難しい部分です。 Sofa 5 は、このことを追跡するのに役立ちます。進行状況リングはアプリ全体のカバーに表示されるため、現在の位置が一目でわかります。ホーム画面には、ワンタップのチェックボックスで次の内容が表示され、作業を進めることができます。 状況に応じて 5 つの追跡方法があります。セットアップなしで楽しむ、タップしてログを記録する、ページ数を数える、エピソードをチェックする、または進行中に日記を付けるなどです。 1 つを選択し、いつでも切り替えることができます。 追跡の仕組みを確認する → 旅行、仕事、メモ、テレビのスケジュールも追跡できるタイムラインのプランナー あなたは旅行を計画していますが、すべてが別の場所にあります。ホテルの確認はメールに記載されています。レストランリストはメモにあります。フライト情報はどこかのスクリーンショットにあります。まだ天気をチェックしていませんね。 Sofa 5 の Planner は、これらすべてを 1 つのイベントにまとめます。地図上の場所を使用してその日の旅程を作成し、予算シナリオを比較し、ライブ天気予報を確認し、確認書やチケットを添付します。カバー画像のカウントダウンは残り何日かを示します。 旅行だけではありません。期日、優先順位、リマインダーを備えたスタンドアロン タスクを作成します。まだ日付が決まっていないアイデアを付箋に書き留めます。追跡しているテレビ番組や今後のリリース日のアイテムがタイムラインに自動的に表示されるため、エピソードのスケジュールが週末の休暇のすぐ隣に表示されます。 プランナーを見る → ポッドキャスト プレーヤー全体を構築しました。 CarPlay とすべてが備わっています。 ポッドキャストを追跡したり、ポッドキャストを聴いたりする場合、おそらく 2 つの別々のアプリを使用しているでしょう。 1 つは試したいことを覚えるため、もう 1 つは実際にプレイするためです。 Sofa 5 ではプレーヤーをライブラリ内に直接配置できるため、アプリを切り替えることなくポッドキャストを保存し、エピソードをキューに入れ、再生ボタンを押すことができます。 Up Next キューを任意の順序にドラッグします。オフライン用にエピソードをダウンロードします。オーディオをクリーンアップする必要がある場合は、Voice Boost…

  • 私が乗っていたバイクを3人の男が盗もうとしました!

    2026 年 3 月 20 日 ここ北ウェールズでは春の気配が漂っているので、昨日バイクで会社に行くことにしました。家に帰る途中、家からそれほど遠くないところで、信号待ちに座っていたところ、突然オフロードバイクに乗った3人の男が私を取り囲みました。左に 1 つ、右に 1 つ、右に 1 つが後輪まで。そして彼らは 本当に 私から数センチくらい近いです。 私はすぐに何かが起こりそうな不安を感じました。私たちは種として、このようなことに対する感覚を持っていると思います。とにかく、数秒後、私の左側の男が自転車のキーを取りに来たと思いますが、幸運なことに私はキーレスイグニッションを備えたBMWに乗っていました。 私はその男が何をしようとしているのかを観察し、パニックになり、彼の自転車の側面を全力で蹴りました。ありがたいことに、これは彼がバランスを崩して転倒するのに十分でした。それから私は右側の男の頭を殴りました。彼はヘルメットをかぶっていたので怪我はしなかったでしょうが、彼にショックを与えて数秒待つには十分だと思ったのでしょう。わかりませんが、この時点では基本的にパンツが脱げていました。 右隣の男にぶつかるやいなや、私はまったくの拍子木のように発進し、その過程で赤信号を無視しました(幸いなことに、何も来ていませんでした)。私のBMWは1000ccで170BHP以上の速いバイクです。彼らはダートバイクに乗っていたが、私のバイクほど速くはなかった。私は地元の道路についての知識も持っていましたが、そうでないことを望みました。私が飛び去ると、彼らは追いかけましたが、すぐに後退しました。スピードメーターをざっと見ただけで、時速120マイルを超えていたが、問題なく動作していた。 パニックになってどうしたらいいのかわかりませんでした – 家に帰りましょうか?もし彼らが私が車に乗り込んでいるのを見て、私の住んでいる場所を見つけたらどうしますか?どこか別の場所に行ったほうがいいでしょうか?しかし、ラッシュアワーなので、私が渋滞に巻き込まれたら、彼らは再び私に追いつく可能性があります。私の自転車は一般道では非常に速いですが、渋滞では彼らが有利になるでしょう。 私は床を床に置いて、できるだけ早く家に帰ることにしました。私の村へはまっすぐな道があるので、後ろから見えなくなったら、すぐにバイクを振り入れてガレージ(道路からは見えない)の後ろに隠れようと考えました。もしそれらが見えるなら、私はただ続けて、それらを失くそうと努力し続けるだろう。 今、車の運転に近づいているので、鏡をちらっと覗いてみましたが、何も見えませんでした。私は、子供たちがドライブで遊んでいないことを願いながら、危険を冒してグラベルドライブをできるだけ早く登ることに決めました。そうではありません。ガレージの後ろに飛び込んで待ちます…5秒…10秒…バイクが近づいてくる音が聞こえます。彼らは私の車道を通り過ぎて飛んでいき、単線の村の道路には速すぎます。 その後、妻は村のパブのオーナーに、監視カメラに何か映っていないか尋ねました。彼が私たちに見つけてくれたものは次のとおりです。 お使いのブラウザはvideoタグをサポートしていません。 そのうちの1台だけがナンバープレートを持っているようで、道路とほぼ平行なので、ビデオから特定することは不可能です。警察に通報し、法医学部門からの返答を待っています。私の自転車から何かプリントを拾えるかどうかを確認するためです。しかし、彼らが手袋をしていたかどうかは覚えていませんし、それが何かをもたらすかどうかはあまり自信がありません。 今は大丈夫ですが、とてもショックでした。彼らがもっと邪悪な何かではなく、日和見主義の愚か者であることを願うばかりです。私はすでにガレージ用にカメラを購入しました。 皆さん、外では安全に過ごしてください。 アップデート 警察の鑑識課が出動したところだ。私が彼らにビデオを見せると、彼らはバイクの跡を拭き取りました。予想通り、何も見つかりませんでした。昨日もその地域で自転車盗難未遂があり通報を受けたとのことでしたので、どうやら私だけではなかったようです。 家庭生活、バイク メールで返信 Source link

Deixe um comentário

O seu endereço de email não será publicado. Campos obrigatórios marcados com *