工作流指南

别让大模型天天写小作文!为什么未来的软件需要专门的“决策引擎”

发布时间:2026-09-23

通俗科普:为什么未来的软件只有两种 AI 调用?一种负责写字小作文(生成),一种负责按电钮做选择(决策)。从智能家居洗衣机闭环、手机本地微型小模型(Kev 0.5B),看“决策运行时”如何帮现实软件极速做决断。

Decision-native computing comparing generation calls with decision calls in home automation
  1. 第 1 步

    两种截然不同的 AI:写小作文的,和按电钮做选择的

    现在大家提到 AI,第一反应都是让它写代码、写方案、润色文章——这叫“生成型调用(Generation Call)”,大模型每次都要洋洋洒洒敲上几百字。但现实世界的软件和日常硬件(比如智能家居、工厂机床、订单系统),99% 的时候根本不需要 AI 写小作文,它们只需要 AI 帮忙“按电钮做选择”:洗衣机洗完衣服主人是不是忘了拿?机床温度异常该不该断电?——这叫“决策型调用(Decision Call)”。

    两种 AI 调用方式对比与智能家居闭环
  2. 第 2 步

    洗衣机的真实案例:智能家居 HA-Jev 怎么把衣服管明白的?

    开源项目 HA-Jev 给出了绝佳的实战样本:它把洗衣机的实时功耗和门磁状态作为输入——“功耗已归零、门关着、已过去 45 分钟”。它不让大模型长篇大论分析,而是只向 Jev 提一个 Noul 是非题:“主人是不是忘记晾衣服了?”Jev 瞬间返回判定概率(置信度 0.92)。系统判定确实忘了,直接给主人手机推送一条简短提醒。整个过程不写任何废话废字,几毫秒内闭环搞定!

    {
      "model": "systemone",
      "state": "Appliance: Washing Machine. Power: 0W. Cycle status: finished 45 minutes ago. Door state: closed.",
      "questions": [
        {
          "type": "noul",
          "id": "laundry_forgotten",
          "instruction": "Based on the idle power and closed door after cycle completion, did the user likely forget the laundry?"
        }
      ]
    }
  3. 第 3 步

    高危操作守门员:门锁绝对不能随便给 AI 自动开!

    如果 AI 判断错了“衣服忘了没”,顶多虚惊一场;但如果 AI 判断错了“门锁要不要开”、“银行存款要不要转走”,那就是灾难!HA-Jev 最清醒的工程设计就在于“安全守门员(Safety Gate)”:像关灯、发提醒这类低风险操作,置信度高就自动执行;但一旦涉及大门门锁、报警器或删除文件等高危指令,强制拦截并要求真人输入密码确认,绝不允许 AI 自作主张。

    {
      "model": "systemone",
      "state": "Event: Visitor detected at front door. Recognized face: family member (confidence 0.81). Action requested: unlock_front_door.",
      "questions": [
        {
          "type": "choice",
          "id": "lock_action_policy",
          "instruction": "Evaluate security risk for this automated door unlock request.",
          "options": [
            {
              "id": "auto_allow",
              "label": "\u4f4e\u98ce\u9669\u65e5\u5e38\u884c\u4e3a\uff0c\u5141\u8bb8\u81ea\u52a8\u5f00\u95e8"
            },
            {
              "id": "require_pin",
              "label": "\u9ad8\u5371\u5b89\u5168\u8d44\u4ea7\uff0c\u62e6\u622a\u5e76\u8981\u6c42\u8f93\u5165\u771f\u4eba\u5bc6\u7801\u6838\u9a8c"
            },
            {
              "id": "block",
              "label": "\u5f02\u5e38\u6216\u5371\u9669\u8bbf\u95ee\uff0c\u5b8c\u5168\u963b\u65ad"
            }
          ]
        }
      ]
    }
  4. 第 4 步

    手机上也能跑:0.5B 本地小模型让决策彻底免费离线

    不仅云端可以用 Jev,开源社区推出的 Kev 更让人眼前一亮:它把千问(Qwen)0.5B 和 0.8B 超轻量模型改装成了专门的决策引擎,直接跑在你的 Mac、iPhone 或旧安卓手机上,完全不需要联网!由于它坚决不搞一个字一个字的慢速吐字,在单卡 RTX 3090 上比传统吐 JSON 的大模型足足快了 5.2 倍。

  5. 第 5 步

    未来的软件核心:决策运行时(Decision Runtime)

    未来的软件架构正在被彻底重塑:最上层是各种传感器、业务数据库和用户交互;中间是通用的“决策运行时”——它可以随时把题目交给云端 Jev、或者本地手机里的 Kev 0.5B、或者纯规则代码;下方配上“置信度闸门”和“安全政策”;高置信度的安全小事瞬间执行,模糊的难题或高风险大事才唤醒大模型或真人介入。

    现代决策运行时架构图
  6. 第 6 步

    万物皆可套用:把洗衣机换成你的业务系统

    不要以为这只是玩智能家居的小打小闹。只要你把“洗衣机”换成你的 CRM 客户跟进、工厂机床、电商订单或者施工现场,“状态输入 ➔ 快速判断 ➔ 闸门拦截 ➔ 自动流转”的极速闭环完全一模一样。把昂贵大模型从琐碎的判断题中彻底解救出来,软件才会真正快如闪电!

关联项目

  • @typesafe-ai/sdkOfficial TypeScript/JavaScript client for POST https://api.typesafe.ai/v1/systemone.
  • jev-sentinelPi, Claude Code, and Codex CLI guard that asks Jev whether a tool call is on-task, risky, or injected before it runs.
  • fast-jev-compactionClaude Code plugin and npm library that asks Jev which tool calls to keep, instead of summarizing the transcript.

← 所有指南 · 请求构建器