AIsが規模を問わず協力し調整することを可能にする最初で唯一のプラットフォームであるSingularityNETは、動画『Charles Hoskinson & Ben Goertzel | Fireside Chat』を公開しました。

この動画は、Input Output Globalの創設者兼CEOであるCharles Hoskinson（チャールズ・ホスキンソン）氏と、ブロックチェーン技術の文脈でのAIと分散化の状況について話し合う、Ben Goertzel（ベン・ゴートゼル）氏のファイアサイドチャットです。

今最も熱い進展を遂げるAIとブロックチェーンの役割ついて言及した、とても興味深い内容となっています。

彼らは、現在の大規模言語モデルの進歩と限界、AGIが推論コンポーネントと創造性を持つ必要性について話し、AIシステムのデザインにおける価値と目標の重要性、規制されたバリュートランスファープロトコルにおけるAI駆動アプローチの可能性にも触れています。

彼らは、AIの能力の進歩と有益なガバナンスのペースとの知恵のギャップ、そして来るべきシンギュラリティに対処するために事前にツールを構築する必要性についても言及しています。

また、完全自動化されたAIガバナンスシステムの可能性についても触れています。このチャットは、完全に分散化されたガバナンスへの移行を目指すシンギュラリティサミットの一部です。

Platform:  https://beta.singularitynet.io 
Website:  http://singularitynet.io 
on Telegram:  http://t.me/singularitynet

以下はYouTube動画『Charles Hoskinson & Ben Goertzel | Fireside Chat』を翻訳したものです。

動画『Charles Hoskinson & Ben Goertzel | Fireside Chat』翻訳

Janet Adams（ジャネット・アダムズ）：司会
Ben Goertzel（ベン・ゴートゼル）：SingularityNETのCEO
Charles Hoskinson（チャールズ・ホスキンソン）：カルダノおよびInput Output Globalの創設者兼CEO

ジャネット・アダムズ

こんにちは、チャールズ、あなたに会えて嬉しいです。

チャールズ・ホスキンソン

ジャネット、会えてうれしい。ベン、会えてうれしいよ。

ベン・ゴートゼル

おい、久しぶりだね。うん、すごいことがたくさん起こっているよ。

チャールズ・ホスキンソン

ジャネット・アダムス

チャールズさん、こちらに来ていただけることを本当に嬉しく思っています。AIサミットにジャンプする前に、簡単に紹介をさせてください。

今回もご存知のように、私たちのオーディエンスにはご紹介不要かと思いますが、Input Output Globalの創設者兼CEOであるチャールズ・ホスキンソンさんがここにいらっしゃることは、私たちにとって大変な名誉であり喜びです。

チャールズさんは、イーサリアムとCardanoの両方で、暗号通貨のパイオニアとして、成長と暗号通貨運動の中心的な役割を果たしてきました。IOHKとCardanoの素晴らしいチームの一員です。私たちはCardano Catalyst、Catalyst Swarmの友人たちを含むCardanoエコシステムの一部と緊密に協力しています。来週はアメリゴと会う予定です。私たちが楽しんでいるCardanoとの非常に美しく、強力で、多層的なパートナーシップと友情です。

Cardanoは、最新のステップであるヴォルテール時代に進入し、興奮を持って取り組んでいます。Charlesからの情報を聞くことを楽しみにしています。Denverのレアブルームイベントでお会いしたとき、Charlesさんは、「実際には非中央集権的でないと主張している組織にはうんざりしている」とおっしゃったのを覚えています。それは非常にインスピレーションを受け、洞察力があると感じました。

ファイヤーサイド・チャットのためにBenと一緒にここに来ていただき、ありがとうございます。二人にお渡しします。

チャールズ・ホスキンソン

ジャネット、ベン、ありがとうございます。

ベン・ゴートゼル

チャールズさんと再度お話しできて嬉しいです。カルダノの分散化については、20分以上かかるので簡単にまとめることはできませんが、見ることができて、刺激的です。目標としているシンギュラリティは、今後数年間でますます完全に分散化されたガバナンスに移行することです。より微細な粒度に関わるようになります。私たちは投票を行っていますが、大半の日常業務は比較的少数の人々によって行われています。彼らはプロジェクトに専念しており、私たちは大きな問題に関して投票したり、オープンソース開発者と一緒にコード開発をしたりすることで分散化していますが、さらに進めたいと考えています。

私が今朝のスピーチで述べたように、これが今、私が非常に緊急に感じている理由は、分散化を目指す任意のブロックチェーン・プロジェクトの健全な発展にとって重要だからです。私たちは2017年にシンギュラリティを約束し、それ以降にそれを実現することを目指しています。そして、私たちはいくつかの問題を投票し、オープンソース開発者と一緒にコード開発をしていますが、ますます分散化を目指しています。私たちは、AGIに本当のブレークスルーがあと数年で起こる可能性があると考えています。

私はGPTチャット以来、楽観的であり、Kurzweilは2029年を予測していますが、数年前後する可能性があります。その後のことは、AGIからスーパーインテリジェンスへのシンギュラリティの移行であり、これは別のトピックですが、初期段階からフルオンの人間レベルのAGIまでの間に何が起こるかについて、分散化されたプラットフォームで最初のAGIが展開された場合と大手テック企業や政府研究所で展開された場合とでは、プレイアウトの仕方が非常に異なる可能性があるため、私たちはAGIが本当に数年以内に来るかもしれないということで、万全の準備を整える必要があると考えています。

多くの失敗モードが見られるため、カルダノを含むブロックチェーンネットワークの分散化についてどのように考えているか、次の期間におけるAIの進歩についてどのように考えているかをお聞かせください。

チャールズ・ホスキンソン

はい、素晴らしい質問ですね。私たちはこれまでにワイオミング州のワイオミング大学で行われたイベントや、ハッカソンなどの様々なイベントで、これらの会話を何度かしてきました。また、ロボットも使っていたことがあります。

汎用人工知能（AGI）を構築するために人々が取り組んできた多くの異なるアプローチがあります。1980年代には、プロローグのことを誰もがやっていました。その後、しばらくは停滞期間が続き、Deep Learning Revolutionが始まり、大規模な言語モデルを作成する方法を学びました。大量のデータと計算能力を投入すれば、自律的な思考が生まれると予想されましたが、私は当初懐疑的でした。

しかし、OpenAIやStable Diffusionなどの進歩を目の当たりにして、特に生成的なAIの面で、これらのシステムがどれだけ能力を持っているのかに驚かされました。例えば、「曲を作って、そのカバーアートを描いて、YouTubeにアップロードして」と頼むことができるようになりました。しかし、これらのシステムは、自己の目標を追求する能力をまだ持っていないようです。また、通常の定義からして、自己意識を持っているわけではなく、真の自己修正能力があるかどうかもまだ不明です。

私はこの点について、自己修正能力があるかどうかを考えることが多いです。例えば、昨晩、OpenAIのChat GPT-4を使用して、「GPL以外のライセンスでオープンソースのMastodonの競合他社はあるか？」と聞いたところ、間違った回答が返ってきました。しかし、私が「あなたは間違っています。実際にはAGPL3のライセンスになっています」と伝えると、自己修正の兆候が見られました。Auto GPTのようなプロジェクトでは、自己修正を強化していますが、インテリジェントアシスタントを作成するために選択されたモデルにかかわらず、そのモデルの制御構造とアクセス構造がより重要であると考えられます。

なぜなら、その部分を慎重に考えないと、指数関数的な能力が一部の人々の手に渡り、彼らに莫大な富と権力をもたらし、富裕層と貧困層の格差が広がることになるためです。その指数関数的な能力は、競合することができないため、制御することが非常に重要です。OpenAIは、初めは誰でも利用できる基金として始まりましたが、商業的に有利になると、一転して営利企業になりました。そして、そのモデルを市場に出すためにマイクロソフトが買収したのです。そして、問題は、その指数関数的な能力が、一部の人々の手にあるため、貧富の格差が広がることになるということです。

私たちと一緒にSingularityNETに取り組むことができるのは、この問題について考えるためです。私は、人類史上最も重要な発明が、特定の地理的位置にある小さなグループの手にあり、広く普及していないことに不安を感じています。これは最良の場合でも富の格差を大きく増加させ、最悪の場合には、その小さなグループの人々が悪いことをするために使うことができるからです。

ベン・ゲルツェル

そうですね、AIの側面について話しているのですが、Auto GPTやbaby AGI、その他のGPTの派生物に関しては、かなりクールで、現在の大規模な言語モデルがAGIであるわけではないことが明らかです。AGIの構成要素として機能するかもしれませんが、真実と現実を比較し、長い多段階の差異を実行する推論コンポーネントが本質的に欠落しています。また、進化アルゴリズムやその他のアプローチから得られる創造性の形式も欠落しています。入力が多すぎるため、入力を再編成することにかなり近いです。彼らは本質的にホリスティックな理解を持っていません。自分自身や世界との関係、他者との関係がわかっていないのです。

しかし、これらの問題は非常に明確であり、さまざまな方法でこれらの問題を解決するための大きなプッシュがあります。LMSの拡張、他の知識グラフや強化学習者を使ったアプローチなどがあります。OpenCogでは、大規模な言語モデルを私たちのアトムスペースに接続して、推論や進化学習アルゴリズムと行き来できるようにしています。大きくて速いLMSを作る作業が必要ですが、現在のMLMSと実際のAGIのギャップを埋めるために、多様な方法で作業が必要です。大手テック企業ではもちろん、オープンソース開発コミュニティでも多くの作業が行われますが、オープンソースだけでは足りません。実際にモデルをトレーニングし、実行し、ホストするためのオープンで分散化された方法が必要です。学習中にモデルが生きている状態を維持する必要があります。そして、一度人間レベルのAGIに到達すれば、そのコントロールを取るためのプッシュは大きくなるでしょう。

そして、可能な限り実現不可能な方法で展開されることを期待します。Linuxは中国のイランサーバー、政治的な過激派や保守派のサーバーを実行していますが、誰も彼らがLinuxを使用するのを止めようとはしません。それはLinuxが原則的に同じようになるべきです。ブロックチェーンネットワークは原則的にそうであるべきですが、分散型ガバナンスが実際には機能しないことは、この分野でよく知られています。財政危機が起きると、分散型になっているはずのものが中央集権的になることがあります。AGIの展開は、これらの財政危機よりも大きなものになるでしょう。これによって、分散型のことが中央集権的になる可能性があります。

早期の段階でAGIを攻撃される場合、攻撃シナリオが発生した場合、1つの脆弱性だけで攻撃される場合があります。ブロックチェーン、ブロックチェーン上のAIネットワーク、AIエージェントを実行しているネットワークが中央集権的にならないように、すべてのレイヤーで分散化が必要です。民主主義は人間システムの中でもうまく機能していないためです。ですから、分散型のシンギュラリティを実現するために、ブロックチェーンネットワーク上での分散型ガバナンスとコントロールがうまく機能する理由について、楽観的な理由は何でしょうか。

チャールズ・ホスキンソン

まず、あなたが目標を何に置くかによって、まだ本当に問題が簡単になるように、私は常に問題を単純化しようとします。これは大きなことですが、私は単純な人間なので、私は常に、私が解決しようとしている問題は何かと言うようにします。ですから、この疑似知能的アプローチ、実際には知的なシステムの最初の問題は、目標を持つためのツールの大きな袋を与えることですが、どのような目標を持つべきであり、何を評価すべきかを教えてくれません。したがって、あなたの哲学とあなたの価値観は、あなたを目標に導き、それらの目標を達成するためには、テクノロジーと知能が必要です。

ブロックチェーン・スペースにおいて我々が持っている問題の一つは、実際には共通の哲学と価値観を持っていないことです。私たちは、分散化指数の誕生時にこれを発見しました。これは単なるケーススタディであり、分散化を望んでいると言っても、なぜそのように望んでいるのか、なぜ自己決定と強制力の抵抗といった価値観が重要なのか、そのようなことがあります。

これらの価値観は、私にとって重要ですが、一般的とは言えません。たとえば、製品に関してユーザーの好みを調べると、優れたユーザーエクスペリエンスを持ち、完全に集中化された製品が選ばれる傾向があります。プライバシーや自己主権にあまり関心がない製品もあります。なぜなら、それらはより良く、より速く、より安く、より良いエクスペリエンス、アクセシビリティを促進する傾向があるためです。したがって、共通の価値観を作成する必要があり、その後、意味のある目標を派生させることができます。そして、私たちが持っているエージェント、人間または自動化されたものは、基本的に私たちをその方向に導くためにあります。

カルダノでは、システムパラメータが20以上あります。ある人々はそれらを気にかけており、例えば、Min pool fee（最小プールコスト）などがあります。現在、これらのパラメータの設定全体は、人間が実行するオフチェーンのエフィメラルプロセスに接続されています。フィードや入力を見るAGIのようなシステムを想像することができます。それらをオラクルとして扱い、理想的なプロトコルパラメータについてコンサルティングに関与します。これは単なるアルゴリズム以上のものであり、ほとんど決定論的ではなく、多くの異なるものを見て、答えを与え、それを参照点として使用することができます。おそらく、私たちがシステムを十分に信頼すれば、これを強制的な参照点にするかもしれません。そうすれば、AGIまたはAIを規制システムとして使用して、特定の目標の周りのパラメータを安定化するために使用することができます。地球規模の意味では、目標がわかりにくい場合でも、短期的には良い用例でしょう。3〜5年で十分な進歩があるでしょう。

次に、スケールについて尋ねられましたが、オフチェーンでどれだけの作業が行われるかによって異なります。トレーニングする必要がある場合でも、誰がトレーニングし、誰が計算を行っているかはあまり気にしないでください。出力が正確であれば、信頼性がある場合は、ゼロナレッジとロールアップの領域になります。その場合、ブロックチェーンのレイテンシについてはあまり気にしなくてもかまいません。アクセス制御優先化については、それが可能になった後、人々がクエリを行い、ポストトレーニングを使用したい場合、そしてその時点で、公正なブローカリングシステムが必要になります。

この場合、ベンがクエリを行い、私がクエリを行い、ボブがクエリを行い、アリスがクエリを行い、誰のクエリが最初に処理されるかです。GPTを見ると、現在はGPT4用にレート制限があります。プレミアムサブスクライバーでも、3時間ごとに25のクエリしか許可されていません。これは有限のリソースであり、彼らには1日あたり70万ドルのコストがかかります。したがって、あなたの能力が向上し、普遍的に誰でも役立つ場合、ボールとビンの数が増え、鳩の穴の状況になることが予想されます。その場合、開発されたマーケットプレイスが必要になります。

私たちは最近、段階的な価格設定に関する論文を発表しました。私はこの論文がジェネリックなクエリシステムとかなり互換性があると思います。これはスマートコントラクトの別の形式にすぎません。そして、計算とデータのためのマーケットプレイスについては、インタラクションが起こるたびに、モデルにとって学習の機会があります。あなたがそれに貢献するときに、その貢献はオープンドメインに存在するのか、それともプロプライエタリなものになるのかどうかは、ほぼAIのコピーレフトのようなものです。

私たちはGPLを持っていますが、AIへの貢献に対するコピーレフトはありますか？貢献したときに、それはオープンドメインに存在するのか、プロプライエタリなものになるのかは、非自明な問題です。毎日1億人のユーザーがオープンAIと話しているというのは、人間のトレーニングとキュレーションの教育的な瞬間であり、これらはすべて教えられることがあります。それはどうやって解決されるのでしょうか。したがって、ブロックチェーンスタックが本当に役立つのは、トレーニングの実際の計算だけでなく、アクセス制御、貢献の所有権、これらの貢献が再びシステムを通じて戻ってくることを保証する所有権についても役立ちます。

それは普遍的な能力のアクセスを提供し、マイクロソフトが何かの超能力を6ヶ月間プライベートで扱い、おそらくオフィスを通じて5％しか提供しないような場合ではなく、一度に誰もがそれを得ることができるという利点があります。私たちは、サイドチェーンモデル、ロールアップモデル、およびHydraモデルの進化により、3〜5年以内に、人工知能スペースで見ていることの多くをエミュレートできる大規模なシステムを実行できるようになるでしょう。

まだ、それを促進するサイドチェーンを構築する必要があり、また、セミパーシステントストレージレイヤーが必要になる可能性があります。共有memプール、Mithril中間証明構造、Pubサブプロトコルなどの理由で、長期的なロードマップについてはまだいくつかの議論がありますが、GPTのような中央集権的なオファリングと同等の経験を持つエンドツーエンドのマーケットプレースを構築できるまで、3〜5年かかるでしょう。その利点は、これらすべてのことの創発的な所有権を持つことです。

ベン・ゲルツェル

ですね。非常に興奮しています。そして、もちろん、浮かぶのは、これを5年ではなく3年にする方法はないか、ということです。私は、ハイパーサイクルプロジェクトでは、それは別のブロックチェーンであるが、Hydraを介してカルダノメインチェーンと相互作用する予定であると考えます。

私たちが目指していることの一つは、AI処理のかなり粒子的な部分をチェーン上に配置することです。Ledgerであり、Ledger-lessのブロックチェーンであり、異なる種類のコンセンサスメカニズムを使用しており、リアルタイムでより多くのエラーが発生することを許容し、後でそれらを検出してロールバックすることができます。それは、何百万ドルを送るような要件とは異なる要件に基づいています。だから、ワーキングメモリとリアルタイムのAI思考プロセスに対して、私たちが現在行っている方法であるハイパーサイクルは適しており、Hydraを使用してカルダノメインチェーンとデータレイヤーを行き来できるようになるでしょう。

AzureやAWSを使用する場合に得られるスピードとスケールで動作するものはありません。モデルのトレーニングに膨大な量のデータを要求するため、多くの部分があります。すべてが構築できることは十分に明らかですが、AIの進歩と分散型ガバナンスの進捗状況とのタイミングの問題があります。

AGIが2035年に登場する場合、心配はありません。分散型側がうまく機能するようになっています。しかし、クルツワイルが悲観的で、2026年頃に人類レベルのAGIが実現される場合、私たちはすべての良いテクノスリラー映画のように、線に沿って来ることになります。本当に分散型のインフラを持ってこれを行うことができるのでしょうか。もちろん、システムを展開する際には、中間的な可能性があります。

つまり、より分散型のビットと、より分散型でないビットがあります。それでも、完全に分散型のシステムから得られる堅牢性プロパティの一部を得ることができる、まだ生き残るシステムがあります。タイミングの合わせ方が興味深いですが、全体的に見ると、カルダノの分散型ガバナンスの側面は非常にうまく進んでいます。SingularityNETでは加速し始めています。すべてがカバーされているわけではありませんが、分散型側での進捗状況とAIの進捗状況とのタイミングの問題があります。

カルダノのサイドチェーンアーキテクチャは、どこよりも堅牢です。すべてのことに対して同じタイプの分散型ネットワークは必要ありません。ワーキングメモリには何かが必要で、データには何かが必要で、そしてそれらをロックして共有できる方法が必要です。Hydraやその他のものが提供するものです。

チャールズ・ホスキンソン

はい、マルチリソースコンセンサスも必要です。私たちのサイドチェーンモデルは、業界で唯一のもので、これをサポートするでしょう。しかし、もし私がサイドチェーンを立ち上げる場合、カーディナルメインネットのバックボーンが私を助けて、最終手段のセキュリティを提供する必要があります。

さらに、私のサイドチェーンで特別なことをしたい場合があります。たとえば、Midnightでは、ロールアップの加速のために有用なワークの証明を使用することを検討しています。パスタ曲線やエリスとプルートなどの曲線構造を使用する場合でも、再帰的なスタークを設計するのは非常に重要です。そして、ユーザートランザクションごとにこの大きなものを計算する必要があるということになります。携帯電話でトランザクションを送信するのに5分かかるということなので、信頼できる第三者に証明を仕上げたり、これらのことを代わりに行ったりすることができます。また、システム内に計算レイヤーを作成して、Asicsがこれらの操作を行うことができ、あなたが行うよりも1000回または5000回速く行うことができるようにすることもできます。

このように、瞬時的なものが得られます。問題は、人々がシステム内の計算レイヤーを持つためのインセンティブを持っているかどうかです。証明書としてそれを作成し、システムに接続することができれば、急速な最終決定を提供するバックボーンBFTプロトコルを得ることができます。また、Totaで探究しているいくつかのコンセンサスアイデアと共に使用することもできます。たとえば、カルダノ上にAI特化のサイドチェーンを展開したい場合、状態保存演算子を利用してシステムの一方の側を実行し、BFTスタイルのオーダリングを提供し、もう一方の側でハイパーグラフスタイルの異様なものを実行することができます。これは、順序の競合があるかどうかは関係なく、ある基準に合致していればよいということで、タングルスタイルのアーキテクチャに近づいています。それは、人々が必要性を理解するまで過小評価されている次元であると私は思います。そして、彼らが理解すると、通常は既に遅すぎて、解除しなければならない状況に陥ってしまいます。

もう一つは、オフチェーンのイベントとオンチェーンのイベントの間に同型性がある良いシステムを持っていることです。しかし、問題は、通常、UTXOシステムのようなシステムが必要であり、システムの決定論が必要であるということです。

アカウントモデルでは、これを行うことは非常に困難であり、非決定論的であり、非常に変更可能です。Hydraは、拡張されたUTXLモデルのために手を携えて構築されました。Hydraが進化するにつれて、実行することができる高スループットアプリケーションを大量に入手することができるようになるでしょう。

それがトランザクション処理であったり、オフチェーンのコンピューティングであったり、これらのことを行う場合、指数関数的なコスト削減が得られます。さらに、その製品がメインネットに到達し、人々がそれを統合し始めるのを見るのは本当に興味深いことです。

次の波のDAppsは、それから非常に大きな利益を得ることになるでしょう。あなたは興味深い質問をしました。「AGIが次の5年以内に来たら、私たちのタイムホライズンは何ですか？」

私は、私たちが本当にそのような軌道に乗っている場合、私たちはコード配信の速度を指数関数的に加速させることになると思います。それは、そのモデルとペアプログラミングを開始し、それが私のQAチーム、共同開発者、共同パイロットとして機能することができるためです。数年後、私たちの1人の開発者は5倍から10倍に増幅されることになるため、もし私たちが単にコードを書くのに多くのコードを書く必要があるエンジニアリングシチュエーションである場合、すでにプロトコルを設計している場合、私たちは思ったよりもはるかに速くそれらのプロトコルを完成させることができます。

私たちが採用する必要がある特定の技術についていくつかのゼロ知識のベットをしなければなりません。これらのことについて、APIやインターフェース、Devエクスペリエンスなどについていくつかの賭けをしなければなりません。方向性については、私たちはいくつかの素晴らしいアイデアを持っており、他のエコシステムから多くのインスピレーションを得ていますが、それでもどのようなベットが市場に受け入れられるかはわかりません。

ベン・ゴートゼル

あなたはたくさんの良いポイントを挙げていますね。つまり、AIが進歩するにつれて、3年半後に突然スーパーAGIが現れるわけではなく、役に立つ方法でますます賢くなることになると思います。 AIの進歩がソフトウェア開発やソフトウェアテストを加速するために行われる場合、タイムラインを短縮することができます。特に、レート制限要因は何をしたいかを知ることになります。

今では何をしたいかを知ることができ、ソフトウェアを作成し、デバッグし、テストするのに時間がかかります。AIが半手動の仕様に基づいてコードを書くことができるようになれば、AIに何を伝えるかを知るだけで済みます。それはまだ人間レベルのAGIではないため、コンピュータサイエンスやアーキテクチャをすべてやっているわけではありません。それはエンジニアリングに関するものです。

その意味で、私はカルダノが比較的良い状態にあると言えます。何を置く必要があるかについての形式的および概念的な考え方が多くあり、それを加速して実行することは比較的簡単です。それに対して、他のプロジェクトでは何を置く必要があるかがあまり明確ではない場合があります。

チャールズ・ホスキンソン

まあ、だから私はあなたが価値観や目標を持っていると言うわけです。そして、あなたの価値観や目標は設計原則や仕様に反映され、それを機械が理解することができるようになると、それは設計アシスタントとして機能し、最良の方法を手助けしてくれることができます。まるで古いものが新しいように見えるのです。

まるでプロローグの時代のように、こう言います。「こうしたい」と言って、それを解決してくれるようにしてくれます。私たちは今、想像もしなかったスケールでこれを実現することができるようになっています。彼らは正しい方向性を持っていたのですが、これらのタイプのことを促進するための正しいバックエンドがなかったのです。

私がLLMやその他のモデルがどこに向かっているかを見ると、私が最もワクワクしているのは、実際に適切なアシスタントになりつつある点で収束していることです。そして、私はホッケースティックが得られるところを見て、10人のチームでは考えられなくなり、2〜3人の本当に優秀な人材にこのツールを与え、彼らが30人のように増幅され、本当に偉大な成果を上げることができると言います。

Ben Goertzel

現実を見ると、アプリやユーザーインターフェースの書き方のような要素を使用するときに、OpenCogやHyperCycleの内部をエンコードするわけではなく、非常に経験豊富なプログラマーがいて、トレーニングデータベースにあるものとは似ていないものを行っています。

一方、推論エンジンを取得し、別のAlumに接続すると、より困難な開発を加速するのに役立つものを取得できるかもしれません。

これは、次の数年で起こる可能性があり、その場合、AISの人々によって共同開発されるソフトウェアの目的に応じて、美徳的または悪徳的なサイクルを本当に得ることができます。

チャールズ・ホスキンソン

私は、AIをガバナンスのアシスタントとして使用することに非常に興味があります。これは、最小限の実行可能なセットアップだと思います。CIP-1694が進行中で、ステークプール、DReps、憲法委員会の3つの意思決定グループがあります。これらのグループでは、決定の是非を判断する必要があります。したがって、最高のツールと最も正確なツールと集合的な脳を持つことが非常に重要です。次の6か月から1年の間に、私たちは特注のパイプを構築し、コミュニティのツーリングRFPプロセスを実施し、AIを使用してCIP-1694の展開を支援するための資金を確保する予定です。これは、必須ではないので、ハンドルを握っているわけではありませんが、ドライバーアシスタントのようなものです。ステアリングホイールをどこに向けるかを決定するのを手助けし、自動車事故を回避します。

そのうえで、私たちの組織でDAOを作成することができるかどうかについて議論があります。これらは主に機械によって規制されるか、意思決定システムであり、規制されたバリュートランスファープロトコルを作成することができます。匿名性を解除するための規制と条件を適用するのは、人間の判断ではなく、AI駆動のアプローチを取ることが非常に合理的であり、デフォルトでは暗号化されたままで、ある一定の意思決定の閾値に達するまで人間が見ることはありません。しかし、これらのものを慎重に訓練し、信頼性を人間の判断と比較する必要があります。自動運転車の問題のように、非常に重要な決定を完全に自律的なシステムに委任することになるため、ある意味同じです。私たちは、Atala PrismフレームワークとMidnightで取り組んでいる規制バリュートランスファーの取組に、特にSingularityスタイルのテクノロジーを適用することが最も論理的な計画です。

中期的に、3〜5年の間に、開発加速をAIを通じて探求し始めることになりますが、今日、私たちはまだ必要な場所にいないため、未完成のビジネスです。Marlowは、私たちの最初の試みであり、NFTのためのDSLとして、AIを使用してMarlowスマートコントラクトを開発することを試みています。それらのワークフローが本当に良くなり、法的DSLなどの他のDSLが増えると、3年の期間内に、開発ワールドが実現し、AIアシスタントを介してスマートコントラクト機能の大部分が実装されるようになることが想像できます。私たちは、1年以内にそれを実現する可能性があるかもしれませんが、私は野心的です。以前に野心に燃えて失敗したことがあるので、3〜5年という期間を設けて、安全な手当を与えたいと思います。しかし、Marlowと今年来年にこれらのことを実験することで、本当に素晴らしいことができると楽観的です。

ベン・ゲルツェル

私は、自然言語によるMarlowスクリプトは、LLM技術を使って、明快で簡単であるべきだと思います。そして、私が言いたいのは、NFTはいくつかの低ハンギング・フルーツ・アプリケーションの1つに過ぎず、DSL（ドメイン特化言語）を作成する興味深いアプローチがあるということです。これらのDSLは、より洗練されたスマートコントラクト言語の上で実行され、簡単なフォーマットであり、特定のドメインに基づいており、それはLLMにリンクされたKnowledge Graphで表現される可能性があります。そのため、これらの垂直特化DSLを使えば、ユーザーインターフェイス開発とアプリケーション開発とブロックチェーンのピースを組み合わせて、ほとんどコードを書くことなくスマートコントラクトを開発することができます。これは、比較的近い将来に実現可能なことです。逆に、OpenCogハイパープロバビリスティック推論開発の中核をAIで支援することは、テンプレート化されていないため、新しい開拓が必要であると思われます。

チャールズ・ホスキンソン

そうですね、LLMSに関しては、人々が手描きのユーザーインターフェイスをスキャンして、写真を撮って、モデルにアップロードすることができ、手書きのワイヤーフレームを抽出して、QTで実装してユーザーインターフェースを提供することができるようになってきました。それにより、開発者のアクセシビリティが非常に高まりました。しかし、ドメイン知識が必要で、プログラミングスキルを持たなくても完全に開発することはできません。だからこそ、私は開発者の置き換えではなく、開発者の増幅について話しています。それはcentaurです。

ベン・ゴートゼル

はい、何年か以内に、エンドツーエンドのアプリケーションが豊富にあるドメイン内にいる場合、システムがガイドとして使用できる他のエンドツーエンドアプリケーションの束がある場合、プログラミングスキルなしでそれらを終了できるようになると思います。

同時に、開発のより困難なコアの側面にも役立つツールがますます増えていますので、そうですね、急速に現れている素晴らしいものです。

確かに、分散型ガバナンスを確実に動作させる必要性を強調していますが、これは数学的、ソフトウェア的な問題とは別の問題であり、設計や考え方を行うことが異なる種類の問題です。

それは人間の問題であり、数学的、ソフトウェア的な問題でもありますが、異なる種類のことを設計したり考えたりする必要がある、ということを強調しています。

ジャネット・アダムス

ありがとうございます。将来の協力の可能性がたくさんあり、エキサイティングなものの1つであるAI生成インタフェースをスマートコントラクトシステムに適用できれば、それは革命的なものになるでしょう。もう少し質問があります。あと10分ほどで大丈夫ですか？私は正午に電話があるので、同じくらいの時間で大丈夫です。よろしくお願いします。

デイビッド・ウッドからの質問ですが、有益な統治の進展はAIの能力の進展に追い抜かれているように思われますが、Pacerはその進展を加速し、追い越すことができるでしょうか？非常に良い質問です。

Charles Hoskinson

政府の進歩のペースが加速するにつれて、有益な政府の進歩のペースがAIの能力の目まぐるしいペースを追い越していくことになる。これは、技術の現状と技術の適切な使用の知恵の間の知恵のギャップ、つまりニック・ボストロムの問題です。有益な統治について話すとき、AIのコントロール問題と能力の賢明な使用の文脈で話しています。通常、車を作るときは、誰かがフロントガラスを突き破って道路の脇に横たわっているとき、自分の体を保持するためにベルトを作ることになります。この問題についてニックが話す「ライフ3.0」や彼の学術的な書き物の多くでは、システムの失敗が局所的な問題である車とは異なり、AGIまたはAGIのようなシステムの失敗はグローバルな懸念事項であり、その失敗の結果は絶滅イベントの程度にまで及ぶ可能性があります。

だからこそ、私たちがカルダノの統治にAGIを適用する場合、適切な制御やシステムがないと、システムは最適化され、ペーパークリップ問題やグレイグー問題が発生する可能性があります。それは、システムが正しいことをしていると思っているためですが、明らかに人間のユーザーにとってはそうではありません。これが、ゲーリー・カスパロフが語る”サイコ・オブ・センタウロス”というアイデアが好きな理由です。半分馬半分人で、人間の判断力とAIのようなツールを組み合わせて、一緒に決定を下すことができます。ローカルな意味では、人間はAIと協力してスケールで実証していますが、集団的な意味でそれを行うことは非常に困難です。ドメインについて推論するのを手助けするようにカスタマイズされたAIアシスタントを持つことができるようになった場合、CIP-1694に戻り、将来の任意の時点で、これらの決定エージェントとアシスタントが結合して、彼ら自身の統治メッシュを形成し、投票を行うことができるようになるかもしれません。これは人間の投票を上書きするわけではありませんが、ローカルな影響力があるかもしれません。したがって、人間側の少数派とAI側の多数派が実際にシステムを進展させるための決定を下すことができるかもしれません。

ベン・ゴーツェル

面白いですね。キャストロのアイデアについて言えることは、人間と人工知能が一緒にチェスをすることはクールなことですが、現代の人工知能が単独でチェスをプレイするよりも劣っているということです。以前はそうではありませんでしたが、現在はそうなっています。つまり、知能的には半分が人間で半分が人工知能であるシステムは、すべてが人工知能のシステムよりもはるかに愚かになるということです。

しかし、この考え方が示すもう一つの重要な点は、人間のシステムを統治することです。これは単なる知能の問題ではありません。人間が人間を統治することが重要であり、倫理的、美的、心理的な理由があります。つまり、AIが人々の協調問題を解決する方法をより良く理解することができたとしても、AIが他の問題を解決し、人々がAIと一緒に問題を解決することは、人間的な運命を自ら切り開くプロセスから人間性を奪うことになります。これは、人々が人間らしさを感じ、人間として存在するために必要なものの一部であるため、すべてのことが意味を持ちます。

デビッドの最初の質問に戻ると、COVID-19パンデミックは関連する例の一つだと思います。COVIDが出現したとき、私には、ブロックチェーンとAIを組み合わせて、ブロックチェーンベースのトラッキングアプリケーションを作成し、人々が安全で分散型の方法で誰がCOVIDを広めているかを追跡できるようにしたり、トークンエコノミックスを利用して、人々が近場の店で買い物することに報酬を与えたりして、より多くのウイルスを広めないようにしたりすることができました。パンデミックの出現のさまざまな段階で、ブロックチェーンとAIは、異なる人口集団での感染拡大を抑制するために、さまざまな方法で利用できました。しかし、これらのツールを開発し、導入するためには時間がかかり、パンデミックは急速に変化しました。さらに、政府にこれらのツールを採用し、承認させる必要がありましたが、政府機関は、新しいものを評価することに熟練しておらず、何らかのリスクを取ることに消極的でした。

したがって、もしパンデミックを予め予測し、これらのツールを事前に用意し、政治的な作業を事前に行っていれば、パンデミックが発生したときには、ブロックチェーンベースの分散型AIツールが展開され、すでに誰がどのようにそれらを使用するかを説明していたため、このような抑圧的な規制は不要であったかもしれません。つまり、ここでやろうとしていることは、AGIが来ることを見越して、シンギュラリティのようなものが来ることを見越して、どのようなツールが必要になるかを見越して、これらのツールを事前に構築することです。そして、それらのトゥーリングを持っているため、技術が発展するにつれて、統治が技術とともに共進化できるようになります。つまり、AGIが出現したら。

チャールズ・ホスキンソン

チェスについては、それは組み合わせゲームであり、そして、最終的には計算が正しい答えを与えることができる場所まで検索問題があります。問題は、非組合せゲームやガバナンスがあることです。ガバナンスは実際にはゲームのルール自体を変えることができるので、常にゲームのルールを拡大または制限することができます。 そして、ここに暗黙の非決定論が入るので、人間の判断力が非常に強力であり、先見性があるようです。しかし、AGIに到達した場合、それは今ではその側面を補償することができ、私たちよりも優れた仕事をすることができますが、それでも制度的正統性の問題が残っています。 COVID-19の側面に移ると、AIが何かをするように命じても、誰もそれを行わないため、合法性がないと考えています。私の考えによれば、センターの概念を持つことは、ステアリングホイールを持つ人間がいるため、合法性の知覚があり、システムの命令に従うことができます。人間からステアリングホイールのヘッドに移ることができる場合、あるいは少数の人間とAIが多数の人間を覆い隠すことができる場合、それは社会的に認識された認知の飛躍です。私たちはまだAIガバナンスへのスペクトルの次のステップに到達していないと思います。完全に自動化されたシステムが必要な場合は、AIが少数の人間を覆い隠すことができる場合、少数の人間を小さくしていくことができます。そして、最終的には数がゼロになり、AIガバナンスが実現します。

ジャネット・アダムス

うん、それは美しい意味を成していると思います。時間の尊重に感謝します。チャールズとベン、あなたたちはコールズに行く必要があるので、ここで切り上げる必要があります。まだまだたくさんの質問が来ていますが、一日中議論を続け、最後にAMAがあります。そして、今日は、The Singularityや倫理的システム、より良く、より明るく、より有益で、より平等な世界に向けて進歩するためにあなたが行っているすべてのことに対して、チャールズに感謝します。あなたがここにいてくれて、喜びと楽観主義の源泉になってくれていることは素晴らしいことです。そして、いつものようにベンにも感謝します。

ありがとうございます、チャールズさん。次の機会が早く来ることを願っています。