tags: cofacts, meeting note GA: UA-98468513-3 —
20250421 會議記錄
:::info
- 所有會議記錄
- NPO hub:bil, mrorz
- 線上出席:nonumpa, tim
- https://gather.town/app/z3x18KQFgZCX8MeZ/cofacts :::
:potable_water: Release pipeline
:star: Released to production
:electric_plug: API
https://github.com/cofacts/rumors-api/releases/tag/release%2F20250420
- Badge
- Moderation API replace media & generate AI reply
:globe_with_meridians: Site
https://github.com/cofacts/rumors-site/releases/tag/release%2F20250420
- Article filter quentin++
:rocket: Staging
:globe_with_meridians: Site
https://github.com/cofacts/rumors-site/pull/601
Testing checklist
http://dev.cofacts.tw/
登入自有帳號後檢測:
- Article detail
- 搜尋現有回應不應該有被刪除的回應
⛔️ Release Blockers
未竟項目
:eye: Under review
CCPRIP
[Op] Automatic takedown
https://g0v.hackmd.io/@cofacts/rd/%2Fum7DyY_ESbu2LL78kLw3pg nonumpa
- communicty builder 無法列出 user 送出的所有 article
- 只有 reply, feedback, comment [name=nonumpa]
- 可以用 comment [name=mrorz]
- comment 有問題:拉出來的是 feedback 的內容(?) [name=nonumpa]
- 單一 reply request 沒有直接連的超連結,要顯示 article url [name=nonumpa]
:::info nonumpa 再觀察一下 本週有 PR :::
Downtime
2025-04-20 18:25 API, site, line-bot HTTP timeout
好像又是 swap 滿了,我先重開 db [name=nonumpa]
- 不確定是不是跟 elasticsearch 太舊有關
:::info nonumpa 可以看看 :::
Q: DB log 是否有輸出?
A: 有,GCP Logging Query 如下:
resource.type="gce_instance"
resource.labels.instance_id="db"
Log retention 至少有一個月
Langfuse Clickhouse follow-up
https://g0v.hackmd.io/-GmgAfesTB6n1pxGvWQvWA?view#Langfuse-update
- 更新 TTL 設定後,仍然有一樣的 error log (opentelemetry 表的 event_time 不存在,但我的 TTL 設定已經沒有 event_time)
:::info mrorz 可以調查看看 :::
謠言惑眾獎
MyGoPen 4/18 已經貼文 https://www.facebook.com/mygopen/posts/pfbid02EmKybGiRAqAysw1TZoYpXHcfX3FPZBmfKv6Fwh5tCVSfHmpBQHLqrreS3BVXVLcTl
跟上?
:::info bil 在 Facebook 粉專與 Voom 轉貼此 Youtube:https://www.youtube.com/watch?v=mgbRaTWLsWQ :::
小聚檢討
小松果 https://g0v.hackmd.io/0rzXk22PQZ2g5aswKIAXdw?view
青職基地活動 tips
- 借用免費,但進出要押證件
- 有飲水機也有冰水,但是沒有杯子,請務必自己帶環保杯。 bil要攜帶十個不環保杯。(已跟籌備手板袋子放在一起)
- 附近沒有便利商店
- 桌子的腳會黑黑髒地板,一定要抬起來,不可以拖行
- 桌子有中間跟圈圈卡楯,開桌子要調整
- 排法很好
- 邊緣的椅子可以考慮換成用很重的木椅,就不用移動太遠
- 有無線跟有線的 HDMI 可以借用
- 當天使用無線
- 投影 dongle 要供電:type-c 插座,但付的線是 type-a (大的方形)
- 多帶一條 type-c 公公線 for dongle 的電
- Wifi 寫小松果會卡住
- 折疊椅借了 5 張
- 參與者 = 12 人
- 不確定卡住的是用哪個 wifi
- new taipei 很順 [name=nonumpa]
- 可能沒人用 new taipei
- 要 10 秒以上才有「我同意」
- 可以攜帶備用 wifi 機 [name=nonumpa]
LLM transcript follow-up
Ref: https://langfuse.cofacts.tw/project/cm3e6a2190001fdga2ruendgd/datasets/cm7ri4we80004ql0bfu6lvtoi
新的 Gemini model 的比較:
現有 Gemini model:
- Gemini 1.5 Pro (
gemini-1.5-pro-002) (目前使用的 Model) - Gemini 2.0 Flash (
gemini-2.0-flash-001) - Gemini 2.0 Flash-Lite (
gemini-2.0-flash-lite-001)
Speed(平均處理時間)
- 1.5-pro (current), 2.5-flash, 2.5-pro 都是 43 秒
- 2.0-flash-lite 與 2.0-flash 都要 70 秒
判斷
- 在處理影片逐字稿時,Gemini 模型版本號間的差異,遠大於 flash-lite/flash/pro variant 間的差異
- 理論上速度應該要是 flash lite > flash > pro,實際上根本沒差
- 可能處理影片逐字稿的 bottleneck 不在 lite / flash / pro 的差距之處
正確率
- 2.0-flash-lite ~= 2.0-flash > 2.5-pro > 1.5-pro (current) > 2.5-flash
- 2.5-flash
- 2.5-pro
- 2.0-flash
- 沒有 hallucination
- 不太會 follow 我們請他用標點符號寫成段落這件事
- 2.0-flash-lite
- 沒有 hallucination
- 台語比較不會從字幕來變通,硬是空耳
Cost
https://cloud.google.com/vertex-ai/generative-ai/pricing#token-based-pricing
- 根據前例,video input token 佔大多數(90%)的 cost
- Video tokens: 258 tokens/sec for video, 25 token/sec for audio
- Video + audio: 283 tokens/sec
- 1.5 Pro: $0.00032875 / sec ~= $1.16/ 1M token?
- 2.0 Flash: $1 audio + $0.15 video = $1.15 / 1M token?
- 2.5 Pro: $1.25 / 1M token
- 2.5 Flash: $1 audio + $0.15 video = $1.15 / 1M token
Pricing per 1M token 似乎沒有太多差異。
| 模型 (Model) | 速度 | 正確率 (Accuracy) | 成本 (Cost per 1M tokens) |
|---|---|---|---|
gemini-1.5-pro-002 (現行) |
標準 1x | 比 2.5-pro 差,比 2.5-flash 好 | ~$1.16 |
gemini-2.0-flash-001 |
慢 1.6x | 最佳之一 (與 2.0-flash-lite 相當)。不太會遵循標點符號段落指示。無幻覺 (hallucination)。 | ~$1.15 |
gemini-2.0-flash-lite-001 |
慢 1.6x | 最佳之一 (與 2.0-flash 相當)。台語較易空耳,不太會利用字幕。無幻覺。 | 未知 (未提供) |
gemini-2.5-pro-preview-03-25 |
標準 1x | 比 1.5-pro 好,比 2.0-flash/lite 差。結果細緻,但偶爾會斷掉。無幻覺。 | $1.25 |
gemini-2.5-flash-preview-04-17 |
標準 1x | 最差。日文、台語會漏掉。無幻覺。 | ~$1.15 |
:::success 換 2.5 pro or keep using 1.5 pro? –> 用原本的就好 :::
- 要開票做折疊逐字稿的功能嗎 [name=nonumpa]
- prefer 用 LLM 加標點並且整理成段耶 [name=mrorz]
