我们还能说“以后再想”多久?
继续思考有时能让我们更接近一个更好的答案。但人在思考的同时,情境仍在不断变化,时间也在不断流逝。在AI让我们能够一次又一次继续审视同一个问题的时代,我们通过区分“我们还可以继续想”和“我们还有时间继续想”,重新思考在有限时间中思考意味着什么。
一般主题
探索 Sai*aus Labo 中关于思考的文章。
按读者类型筛选
继续思考有时能让我们更接近一个更好的答案。但人在思考的同时,情境仍在不断变化,时间也在不断流逝。在AI让我们能够一次又一次继续审视同一个问题的时代,我们通过区分“我们还可以继续想”和“我们还有时间继续想”,重新思考在有限时间中思考意味着什么。
一般对于给定的目标,AI可以比较不同手段并提出高效的候选方案。但当目标本身包含多种价值时,如果把哪些价值应当优先也自动化,人类的判断就可能从视野中消失。本文探讨一种思考结构:将手段的优化与目标的形成区分开来,并使有限的主体能够为自己赋予各种价值的优先次序承担责任。
专业我们往往认为,在行动之前充分思考更为理性。然而,当问题是我们自己究竟想要什么时,有些信息仅靠思考无法获得。本文把一个小小的行动看作并非执行已经确定的决定,而是向现实提出问题的一次观察,由此重新思考思考与行动之间的关系。
一般即使两个目标完全相同,选择它们的理由不同,所需要的支持以及重新验证目标的条件也可能不同。本文探讨:当目标不被视为唯一输入,而是与支撑它的理由、假设和价值联系起来进行表征时,AI的推理会如何变化。
专业无论怎样思考都无法作出决定时,我们往往会认为自己缺少信息或建议。然而,在犹豫之中,可能有多个判断标准同时发挥作用,并各自支持不同的方向。本文重新理解“思考”:它不是从中选出一个正确答案的工作,而是把我们内心相互竞争的判断标准区分开来,并由自己承担确定其优先顺序的责任。
一般AI的推理效率常被评价为以更少的计算或更短的推理路径到达答案。然而,如果最初的问题表征并不恰当,那么该空间中的最短路径未必在整体上具有效率。本文考察一种设计:将多个哲学坐标作为候选加以保留,并根据输入选择将哪个表征空间置于前景。由此,效率的对象从“到答案的距离”扩展为“在不丢失意义差异的情况下,移动到适当坐标的成本与效果”。
专业在工作中,先处理简单的部分,会让人产生进展顺利的感觉。然而,真正可能打乱计划的,也许恰恰是我们一直到最后都没有碰过的困难部分。本文不把尽早接触困难部分视为一种“更快完成的方法”,而是把它看作一种“更早发现自己不知道什么的方法”,并思考与AI一起思考时,如何建立安心感。
一般在早期阶段大幅推进重要部分,并不只是把工作提前。通过让计划尽早与实际成果物接触,我们可以在截止日期之前获得证据,判断某项估算、前提或方法是否不成立。本文将早期加速重新理解为一种技术:它不是为了按照计划推进,而是为了更早发现计划可能是错误的。
专业改进方法在许多情况下都很有用。然而,当我们不断追问怎样才能做得更快、更多或更好时,也可能逐渐偏离最初的目的。本文关注这种“目的偏移”:对手段的优化把目的抛在身后,并思考为什么AI的生成能力越强,提出能让我们回到目的的问题就越重要。
一般高能力AI能够高效优化给定的局部目标。但当前的问题或输出是否已经偏离对话开始时存在的更高层目的,则是另一个问题。本文通过追踪目的、当前问题、约束条件与输出之间的关系,探讨目的偏移能够在多大程度上被检测出来。同时,本文也讨论区分两种情况的困难:一种是目的得到了合理更新,另一种是目的在适应手段的过程中无意发生了变化。
专业ИИ может использовать информацию о прошлом, чтобы прогнозировать вероятные результаты и вероятные варианты выбора. Но будущее с высокой вероятностью — не то же самое, что будущее, которое людям следует выбрать. В этой статье рассматривается риск того, что прогноз, помогая суждению, может опережать человеческую волю, и исследуется необходимая дистанция между вероятностью и выбором.
一般在AI推理设计中,决定每项任务投入多少计算资源很重要。但是,进行了足够深入的推理,与有资格将由此得到的结论确立为事实,是两个不同的问题。本文探讨一种“确定界限”:它独立于推理资源的分配,控制生成结论的认识论地位,并考察将思考的加速与认识论上的制动相结合所需的条件。
专业