软对象级垂直搜索技术:所搜即所得

通用搜索引擎在某些方面越来越差,一种新的基于对象的垂直搜索技术更加明显。

本报记者 李洋

小李想买一部智能手机,想了解几款产品的介绍、价格和评价。 但是当他使用通用搜索引擎查找信息时,他得到的结果好坏参半。 麻烦的是,他得一个一个点链接,注册一堆论坛账号,把看到的信息综合起来,才能得到这部手机的完整信息。

是的,通用搜索引擎在某些方面变得越来越差。 那么,如何让搜索结果更加一目了然呢? 软亚洲研究院聂再清研究员和温吉荣研究员向互联网周刊介绍了他们研究的一项成功的“对象级垂直搜索技术”(Object-level Vertical Search)。

结果一目了然

这个听起来有点学术的技术其实并不难理解。 当你使用这种搜索引擎时,它列出的结果将是最终对象的集合,而不是一堆乱七八糟的网页列表。 一切都围绕着你正在寻找的对象。

例如,当你搜索“多普达”时,系统列出的并不是包含这些信息的各种页面标题和内容搜索,而是每一部多普达手机——除了型号、图片等直观信息外,每款产品还在每个产品下列出。 介绍、价格、用户评价等相关信息就像我们在购物网上看到的展示页面,但内容远比某个网展示的要丰富,因为它来自于整个互联网。 搜索引擎列出的对象内容不是人工组织的,而是计算机通过自动抓取、自动分类形成的“虚拟”页面。

该技术已获得初步应用。 作为实验,在软亚洲研究院的学术搜索(libra.msra.cn/)中,输入关键词“数据挖掘”,可以得到相关论文的排名榜单。 结果以论文为对象排列,每篇论文下可列出被引次数和作者; 点击每篇论文的链接,可以看到论文的介绍、可供浏览和下载的原文链接以及相关参考论文。

同时,在论文结果列表的左侧,有相关作者、会议、期刊的排名。 如果按“作者”搜索,系统会自动整理出“数据挖掘”领域最具权威的科学家名单。 同样,您也可以搜索相关的会议、期刊和学术社区。 目前,软的学术搜索仅限于计算机领域。

与基于文本的搜索结果相比,基于对象的搜索结果显然更加一目了然,实现了更加垂直和专业的搜索效果。 目前,这项来自软亚洲研究院的技术正在应用于Windows Live产品搜索引擎()的测试版开发。 在以产品为对象的搜索结果中,用户还可以根据相关性和价格进行排名,或者根据一些热点搜索某个网。

据聂再青研究员介绍,经过第一个月的试运行,系统已经自动发现了10万个电子商务网和数千万个网页,并从这些网页中提取了数亿条商品对象信息。 一个号是任何商家平台都无法独立实现的,未来可能成为全球最全的商品目录库。 面向对象的搜索引擎无疑是许多购物网的基础平台。

核心技术

那么,这项技术是如何运作的呢? 细心的读者可能从前面的介绍中看出端倪,这是一种有别于传统搜索引擎思维的全新架构。

首先,它会依靠网络爬虫技术抓取特定领域(如相机产品)的所有相关网页。 系统在获取到这些页面后搜索技术,对这些网页所包含的对象信息的类型进行分类,即需要区分某个网页是论文页面、博客页面还是产品信息页面。

完成这项工作后,系统就可以将内容逐个分类地集成到对象信息仓库中。 而这项工作需要提前进行大量的训练和模型构建。 比如在商品页面的训练中,需要告诉系统商品名称、商品图片、价格是什么; 经过这样的学习,系统可以自动找到自己需要的关键内容。

在这方面的研究中,有人在HTML代码上进行过尝试,但都不是很成功,因为代码总是写成千百种方式,但最终实现的页面显示却几乎是一样的。 发现这一点后,软亚洲研究院的研究人员在这个过程中巧妙地结合了视觉分析技术,设计了一些算法,让计算机可以像人一样看到页面的“兴趣中心”,并进行智能判断。

经过爬取、分类、提取,垂直搜索引擎可以利用这些结构化的对象信息来响应用户的问题,进行各种智能分析和挖掘任务。

推翻现有结构

这样的技术是革命性的。 用户可以利用它对各个垂直类目进行深度搜索。 推翻现有格局后,无疑将比传统搜索引擎经受更多考验。

例如,要保证结构化信息的高质量、全面性和准确性。 而且,由于该搜索引擎的数据库需要存储互联网上和全球各地的离线数据库中的相关对象信息,这也对存储和运行规模的可扩展性提出了挑战。 这项技术必须有一个能够存储数十万个“超级数据库”的数据库,旨在确保其算法能够足够快速地检索。

新的搜索引擎在给用户带来便利的同时,也带来了一系列源于技术规则变化的商业模式的潜在变化。 例如,在基于对象的搜索引擎中,传统的页面排名方法(PageRank)不再适用。 软亚洲研究院的研究人员提出了 PopRank。

这种search-is-get技术具有很强的通用性。 除了产品搜索和学术搜索搜索技术,它还可以应用于黄页、博客、人物、工作、餐厅、机票等各种垂直搜索领域。 电子商务的结合以及新广告形式的衍生将是一个新的话题。

限 时 特 惠: 本每日持续更新海量各大内部创业教程,一年会员只需98元,全资源免费下载 
优惠码(不再需要): xnbaoku

声明:本站内容转载于网络,版权归原作者所有,仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任,若侵犯到你的版权利益,请联系我们,会尽快给予删除处理!

大鱼项目网 » 软对象级垂直搜索技术:所搜即所得