谷歌的动态嵌入框架扩展了TensorFlow到巨大规模的应用程序

在本周在Arxiv.org上发表的一份初步白皮书中，谷歌研究人员描述了动态嵌入，它将谷歌的TensorFlow机器学习框架扩展到具有任意数量特征(例如搜索查询)的“巨大规模”应用程序。 根据谷歌的说法，在它上开发的人工智能模型在两年内取得了显著的精度增益，表明它们可以“不断”增长，而不必经常被工程师重新调整。

目前，动态嵌入模型正在向谷歌智能运动中的广告商推荐关键词，注释通过“巨大”搜索查询(带有Inception)获得的图像，并将句子翻译成跨语言的广告描述(带有神经机器翻译)。 谷歌说，它的许多工程团队已经将算法迁移到动态嵌入，这样他们就可以在没有太多数据预处理的情况下训练和再训练它们。

动态嵌入可能是有用的情况下，集中在最频繁发生的数据可能会抛开太多有价值的信息。 这是因为框架通过学习潜在的无限新输入来成长，使它能够通过模型训练技术自我进化，如转移学习(其中一个在一个任务上训练的模型被重新任务上)和多任务学习(其中多个学习任务同时解决)。

将动态嵌入到TensorFlow中需要向PythonAPI添加一组新的操作，这些操作以符号字符串作为输入，并在运行模型时“拦截”上下游信号。 这些操作与称为动态嵌入服务(DES)的服务器接口，以处理模型的内容部分。 这谈到了一个动态嵌入主模块，它将工作划分并分配给代理-称为动态嵌入工人。 工作人员主要负责分配内存和计算，并与外部云存储通信，以及确保所有动态嵌入模型保持向后兼容。

　　免责声明：本文由用户上传，与本网站立场无关。财经信息仅供读者参考，并不构成投资建议。投资者据此操作，风险自担。 如有侵权请联系删除！