Conversation
LLM 使ってニッチなソフト開発は人的コストは低廉で済むかもしれないが、計算機コストは確実に高価だもんな。OSSとか流行りだした時に、既に「商業ベースに乗らないソフトの隙間をOSSが埋めていく」と言われてた流れは、LLMがさらにニッチや隙間を埋めるかというと、埋めないかも。
1
0
0

@akiya OSSとしてですら成り立たなさそうな超ニッチなソフト(Ollamaを使って画像にタグ振ってメタデータを入れる)を作らせてて、これはかなり捗るんですが、OSSとして配布できるようなある程度の集団がうれしいと思うソフトは、もう人間が作ってたり維持のトークンコストが掛かったりで、成り立たないかもしれません。

1
0
0
@psi ワンウェイ利用の書き捨てソフトもガンガン作れるかもみたいな話、やっぱり計算機コストが安ければの条件つきますよね。それなりローコストなモデルに期待したい。
1
0
0

@akiya それはそう。結構猛烈な勢いでトークン溶けていきます。 とはいえ、現状ですでに人間よりは遥かに安いとは思います。人間は高コスト…!

1
0
0
@psi やはり人間が不要になる LLM を開発しないと。
1
0
0