大家有什么让LLM 24小时不停工作的方案啊

[Tony Yun]

老是手动trigger 要么agent干着干着就停了 人力监督很累

[Tony Wang]

什么活要24小时不停工作?

可以定时任务, 也可以定时trigger它一下, 看是怎样的trigger方式了.

[566656661]

上班的時候我vLLM會拿來當成agent來用, 跟claude跟gpt計劃完後implementation就會用了, 有時候涉及一些低層邏輯或者敏感資料也會只使用自己的私人模型

睡覺的時候就叫hermes看一看reddit上面Locallama的熱文，臨近起床的時候去看一下+整理股票價格

[kop wang]

自动其实也是要靠定时器触发的。
只是定时器的频率可以足够高，来实现类似自动触发的效果。

比如“在开盘的时间段，每五分钟监控一次股票的报价”这种。

[Tony Yun]

@tony-wang 因为租的云端GPU 不24小时跑回不了本

[Tony Wang]

我不是说不能, 我的意思是, 你的任务类型 和 你的trigger 方法.

• 可以调整任务描述, 让它不中断地跑
• 可以通过cron定时, 运行定时任务, 或者让一个脚本来 trigger.
• 也可以做一个watch dog 脚本, 随时监控它

[Tony Yun]

@566656661 那感觉还是deepseek v4 pro完全够用了 也用不了几块钱

[Tony Yun]

@kop-wang 感觉cron触发很呆 大部分时候都要人参与进去 单纯的cron好像很难生成什么高质量的内容

[566656661]

@Tony-Yun

恩……只能說用法不同吧?

因為我本身是做軟件開發的, Claude跟GPT就算上5x也蠻容易碰到limit的, 這時候我可以fallback到自己的vLLM上不至於回到全手打的年代

以普通人的角度來說Call API 在目前 是比較便宜, 但這也是建基於DeepSeek會一直保持這麼便宜基礎下吧?

我當初也體驗過GLM 4.5到4.7那個token很便宜的時段, 那個時候也有覺得GLM會一直這麼便宜, 但GLM 5跟5.1的Coding Plan加價跟砍掉Token量後就沒再用過GLM了

雖然大陸模型最大的特色也是便宜跟量大管飽, 但是基本上每一間公司(無論外國或者大陸的公司都是)都是在燒錢養客群, 之後很大機會會開始加價

之前Claude不就因為嘗試過把Claude Pro底下的Claude Code砍掉節約成本, 結果被罵到只能偷偷地加了回去

[九龙杨生]

如果有什么自动学习，自动进化 AI AGENT的方法就好了，晚上睡觉的时候就不浪费本地算力了。