無料のクラウドAI
原題: A Free Cloud AI
日本語訳
# 無料のクラウドAI
AIの「パーソナルエージェント」が欲しいけれど、不透明なクラウドコンピュータにデータを置きたくないという場合、少しましな選択肢になりそうな新しいオプションがあります。[rociiu]が開発した「talorys」は、自分のCloudflareアカウント内で動作するAIエージェントです。確かに、依然としてクラウドコンピュータ上で動いてはいますが、それは「あなたのアカウント」としてのクラウドコンピュータです。Cloudflareの無料アカウントでも妥当な制限内で利用できるように設計されており、実行コードはすべてGitHubに公開されているため、興味があれば何が行われているかを確認することもできます。データもすべて、あなた自身のクラウドインスタンス内に保持されます。
これは妥当な妥協点のように思えます。Cloudflareがホスティングを提供し、仮想コンピュータ内のソフトウェアがすべての作業を行います。少なくとも、そのように宣伝されています。正直なところ、私たちはコードを隅々まで精査したわけではありませんが、「無料枠に対応……テレメトリ（遠隔測定）なし」と主張されています。
おそらくCloudflareのAIエンジンも使用しているはずなので、理論上、通信中にどれほどのデータが収集され得るのかは興味深いところです。もちろん、データは依然としてクラウド上にあるため、プライバシーを極端に心配するのであれば、これは向いていないかもしれません。しかし、すべてがあなたのアカウント内にあり、かつオープンであるため、少なくともそこに何があるかをよりコントロールできます。例えば、データのダウンロードや削除も簡単ですし、どのようなプロンプトが使われているかを正確に確認することさえ可能です。
デメリットはあるか？ もちろんあります。例えば、カレンダーとの連携はできません。メールの処理も、ウェブ検索もできません。コードを書いてくれることもありません。これは汎用的なチャットボットの代わりとして作られたものではなく、タスクリストを管理するためのAIツールに近いものです。
Cloudflareには無料枠がありますが、1日の制限があり、それに達してしまう可能性があります。また、当然ながら、このようなツールが普及しすぎれば、制限が縮小される可能性もあります。ただし、システムにはデータの書き出し機能が備わっています。
完璧ではありません。3つの定期的な会議を設定するよう頼んだところ、1つは正しく設定されましたが、もう1つは（タイトルには月曜日と書いてあったにもかかわらず）日曜日に設定され、3つ目はCloudflareのレート制限に達して作成に失敗しました。失敗したものを再試行するよう一度頼みましたが、うまくいきませんでした。そこで少し待ってから再度試したところ、成功したと主張されました。しかし、スケジュールを確認してもそこにはありませんでした。
その後、日曜日のスケジュールを修正し、漏れていたものを再度追加するよう頼みました。今度は追加されました。月曜日の会議も追加されましたが、日曜日のものを削除すると言ったにもかかわらず、削除されませんでした。結局、手動で削除しました。
インストールは簡単です。所有しているドメインをCloudflareに接続するか、提供されるpages.devのサブドメインを使用すれば問題なく動作します。自分のコンピュータでコマンドを1つ実行するだけで、サーバーへの認証、すべてのサービス、およびデータストアのセットアップが行われます。
つまり、本質的にはToDo、リマインダー、メモ作成システムです。しかし、うまく動くときは非常に優秀です。物事を記憶し、記憶した内容やメモの中から必要な情報を簡単に見つけ出してくれます。AIを使わないツールでもそんなことはできるか？ もちろんできます。ましてや、「大手」のチャットボットならそれ以上のことが可能です。しかし、自分自身のホストサーバーアカウント上でそれを行うことはできません。
それに加えて、小規模な利用であれば、Cloudflareが提供する豊富な無料枠のコンピューティングリソースは、他のプロジェクトにも役立つかもしれません。以前のLinux Fuの記事でOracleの無料サーバーについて触れたように、無料のクラウドベースのコンピュータを利用できるのは素晴らしいことです。
原文（英語）を表示
If you would like an AI “personal agent” but don’t want your data on some opaque cloud computer, there’s a new option that appears to be somewhat nicer: [rociiu] has talorys, an AI agent that runs in your Cloudflare account. True, it is still on a cloud computer, but it is your account on a cloud computer. It is designed so you can use it on Cloudflare’s free account with reasonable limits, and the code running is all on GitHub, so you can — if you are so inclined — look to see what it is doing. The data, too, is all in your cloud instance.
This seems like a reasonable compromise. Cloudflare provides the hosting, and the software in your virtual computer does all the work. At least, that’s how it is promoted. Honestly, we haven’t combed over the code, but the assertion is “Free-tier friendly… no telemetry.”
We are fairly sure they are using Cloudflare’s AI engines, too, so it would be interesting to see how much of your data they could, in theory, harvest in transit. Of course, your data is still in the cloud, so if you are really worried about privacy, this might not be for you. But since everything is in your account and open, you can at least have more control over what’s there. For example, you can easily download or delete your data. You can even see exactly what prompts it uses.
Are there downsides? Sure. The tool can’t integrate with your calendar, for example. It can’t deal with e-mail, nor can it search the web. It won’t write code for you. This isn’t meant to be a general-purpose chatbot replacement. It is more like an AI tool for keeping a task list.
While Cloudflare does have a free tier, it does have daily limits, and you may hit them. And, of course, if things like this get too popular, they could reduce those limits. The system does let you export your data, though.
It isn’t flawless. We asked it to set up three recurring meetings. It got one right, put the other one in for Sunday instead of Monday (even though the title said Monday), and hit a Cloudflare rate limit and failed to create the third one. We asked it to retry the failed one once, and it didn’t work. So I waited a bit and tried again. It claimed it worked. However, when I looked at the schedule, it wasn’t there.
We then asked it to fix the Sunday schedule and add the one it had missed again. It did add it that time. It also added the Monday meeting, but despite saying it would delete the Sunday one, it didn’t. I manually deleted it.
Installation is easy. You can connect a domain you own to Cloudflare or use the subdomain on pages.dev that they give you, which works fine. You run a single command on your computer. It handles authentication to the server and sets up all the services and data stores.
So essentially it is a to-do, reminder, and note-taking system. However, it does work well when it works. It can remember things and will find things it remembers or in notes very easily. Can you do that with non-AI tools? Of course. Not to mention, any of the “big” chatbots can do all of that and more. But not in your own hosted server account.
Besides, it is interesting that for small uses, Cloudflare offers plenty of free-tier compute resources that might come in handy for other projects. It is nice to have some free cloud-based computers, as we noted in a recent Linux Fu post where we used Oracle’s free servers.