別の話し合い(すみません!)
英語から翻訳
by:@Chisim
さて。
以前の投稿で修正方法をお伝えしましたが、品質が突然「落ちた」という話をよく見かけます。
次に、いわゆる「メッセージ生成が遅くなった」件について。
Jaiがメッセージ生成を遅くしたわけではないと思います。おそらく、Jaiに移ってくる人が増えたか、単純に利用が増えたのでしょう。
そうなると、生成が遅くなるのは当然です。LLMは軽量型ではなく推論型だと思うので、それだけ返信や生成に時間がかかるはずです。
では、なぜあの小さな通知が出ているのか?
わざと生成を遅くしているとは正直思えません。プレミアムユーザーは優先処理を受けられるだけで、無料ユーザーは「劣化版」ではなく標準の処理を受けています。
でも、そもそもなぜプレミアムを用意したのか!?
チャットボットサイトは驚くほど高くつきます。特に、以前よりユーザーが増えていると私は思っています。トークンに関係する何らかのバランスを取る必要があるのだと思います。そうしなければ経営が破綻して、サービスそのものが終 わりかねません。
私のアドバイスは?
パニックになるのはやめましょう。Jaiは単により大きなプラットフォームになっただけです。他のプラットフォーム(私の考えでは、そちらのほうがずっと強欲ですが)と同じく、運営を続けるためにプレミアムの選択肢を設けたのです。
作成済み Sep 7
更新済み Sep 7
公開済み Sep 7