Navigate to WaytoAGI Wiki →
Home/Question List/Question Detail

什么是inferencing?

Answer

在人工智能(AI)领域,"inferencing"(推理或推断)是指使用训练好的AI模型对新的数据进行预测或决策的过程。这通常发生在模型训练阶段之后,当模型已经学习到足够的特征和模式,可以应用这些知识来处理未见过的输入数据。

AI的inferencing包括以下几个关键步骤:

  1. 加载模型

    • 加载训练好的AI模型到内存中,准备进行推理。
  2. 数据预处理

    • 对输入数据进行清洗、标准化或转换,以匹配模型训练时的数据格式。
  3. 输入数据

    • 将处理后的数据输入到模型中。
  4. 模型推理

    • 模型根据输入数据和已学习的知识进行计算,得出预测结果。
  5. 解释输出

    • 将模型输出的原始预测结果转换为可理解的格式,如分类标签、连续值或概率分布。
  6. 后处理

    • 根据需要对输出结果进行进一步的处理,如阈值切割、排序或汇总。
  7. 应用决策

    • 将推理结果应用于实际问题,如自动分类、推荐系统或自动化控制系统。
  8. 性能评估

    • 在实际应用中,评估模型推理的性能和准确性,确保满足业务需求。

AI的inferencing在各种应用中都非常关键,包括图像识别、语音识别、自然语言处理、预测分析等。推理过程的速度和效率对于实时系统尤为重要,如自动驾驶汽车、实时翻译或股票交易算法。随着技术的发展,AI推理正在变得越来越快速和准确。

Content generated by AI large model, please carefully verify (powered by aily)

References

AIGC常见名词解释(字典篇)

训练是指通过大数据训练出一个复杂的神经网络模型,通过大量标记过的数据来训练相应的系统,使其能够适应特定的功能。训练需要较高的计算性能、能够处理海量的数据、具有一定的通用性,以便完成各种各样的学习任务。

AIGC常见名词解释(字典篇)

推理是指利用训练好的模型,使用新数据推理出各种结论。借助神经网络模型进行运算,利用输入的新数据来一次性获得正确结论的过程。这也有叫做预测或推断。

【法律法规】《促进创新的人工智能监管方法》.pdf

common understanding of what is meant by ‘artificial intelligence’.There is no general definitionof AI that enjoys widespreadconsensus.80That is why we have defined AI by reference to thetwo characteristics that generate the need for a bespoke regulatory response.oThe ‘adaptivity’ of AI can make it difficult to explain the intent or logic of the system’s outcomes:oAI systems are ‘trained’ – once or continually – and operate by inferring patterns andconnections in data which are often not easily discernible to humans.oThrough such training,AI systems often develop the ability to perform new forms ofinference not directly envisioned by their human programmers.oThe ‘autonomy’ of AI can make it difficult to assign responsibility for outcomes:oSome AI systems can make decisions without the express intent or ongoing control of ahuman.