首页 >> 要闻 >

谷歌的动态嵌入框架扩展了TensorFlow到巨大规模的应用程序

2022-11-29 16:33:01 来源: 用户: 

在本周在Arxiv.org上发表的一份初步白皮书中,谷歌研究人员描述了动态嵌入,它将谷歌的TensorFlow机器学习框架扩展到具有任意数量特征(例如搜索查询)的“巨大规模”应用程序。 根据谷歌的说法,在它上开发的人工智能模型在两年内取得了显著的精度增益,表明它们可以“不断”增长,而不必经常被工程师重新调整。

目前,动态嵌入模型正在向谷歌智能运动中的广告商推荐关键词,注释通过“巨大”搜索查询(带有Inception)获得的图像,并将句子翻译成跨语言的广告描述(带有神经机器翻译)。 谷歌说,它的许多工程团队已经将算法迁移到动态嵌入,这样他们就可以在没有太多数据预处理的情况下训练和再训练它们。

动态嵌入可能是有用的情况下,集中在最频繁发生的数据可能会抛开太多有价值的信息。 这是因为框架通过学习潜在的无限新输入来成长,使它能够通过模型训练技术自我进化,如转移学习(其中一个在一个任务上训练的模型被重新任务上)和多任务学习(其中多个学习任务同时解决)。

将动态嵌入到TensorFlow中需要向PythonAPI添加一组新的操作,这些操作以符号字符串作为输入,并在运行模型时“拦截”上下游信号。 这些操作与称为动态嵌入服务(DES)的服务器接口,以处理模型的内容部分。 这谈到了一个动态嵌入主模块,它将工作划分并分配给代理-称为动态嵌入工人。 工作人员主要负责分配内存和计算,并与外部云存储通信,以及确保所有动态嵌入模型保持向后兼容。

  免责声明:本文由用户上传,与本网站立场无关。财经信息仅供读者参考,并不构成投资建议。投资者据此操作,风险自担。 如有侵权请联系删除!

 
分享:
最新文章