自己ホスト可能なオープンソースの第二の脳オープンソースオープンソース
OpenBrain
保存したリール、投稿、リンク、スクリーンショットを取り込みます。OpenBrainがそれらを読み、要約し、普通の言葉で探せるようにします。
成果
保存したすべてを普通の言葉で検索
課題
保存したものはすべて、二度と見に行かない場所に収まります。ブックマーク、保存したリール、スクリーンショット。どれも書き込み専用です。
作ったもの
取り込み時に各アイテムを読むパイプラインを構築しました。スクリーンショットからはOCRでテキストを、動画からは書き起こしを取り出し、結果を埋め込んで意味で検索できるようにします。
結果
うろ覚えのものを尋ねて、実際に取り出せます。自己ホスト可能なので、アーカイブは自分のものであり続けます。
仕組み
- 01
アイテムが保存されます。リンク、スクリーンショット、リール、投稿。
- 02
取り出すときではなく入るときに読みます。画像にはOCR、動画には書き起こし、ページには抽出です。
- 03
抽出したテキストは要約され埋め込まれるので、ファイル名ではなく内容で検索できます。
- 04
検索はうろ覚えの説明に応え、含まれていた正確な語句を求めません。
AIの層
取り込み時のOCRと書き起こし、読める記録のための要約、意味検索のための埋め込みです。高価な読み取りを書き込み時に一度だけ行うことが、読み取り時の検索を安くします。
エンジニアリングの層
解析できないアイテムがあっても止まらない取り込みキュー、ベクトルストア、そして自己ホストが理論ではなく現実的になる程度に単純なデプロイ構成です。
主要な技術判断
クエリ時ではなく取り込み時に読む。
入るときに処理すれば一度だけ高くつき、その後の検索がすべて速くなります。出すときに処理すれば、クエリのたびにOCRの代金を払い直します。
人が何を保存するかを考えれば、自己ホストです。
個人アーカイブは、第三者に預けてくれと頼むべき最後のものです。自己ホストはデプロイの選択肢ではなく機能そのものです。