使用关系数据库来查询非结构化数据

译文
数据库
在过去的50年里,关系数据库一直是世界上一些最关键的应用软件的基础。虽然市面上还有其他数据库,比如键值数据库、文档数据库和图形数据库,但关系数据库依然是最受欢迎的。其主要原因是,SQL或关系数据库语言对初学者来说学习起来很容易,对专家来说实施起来很高效。

​译文 | 布加迪

审校 | 孙淑娟

在过去的50年里,关系数据库一直是世界上一些最关键的应用软件的基础。虽然市面上还有其他数据库,比如键值数据库、文档数据库和图形数据库,但关系数据库依然是最受欢迎的。其主要原因是,SQL或关系数据库语言对初学者来说学习起来很容易,对专家来说实施起来很高效。

然而随着我们进入人工智能新时代,存储结构化数据已经不够了。如今世界上80%的数据是非结构化数据,包括原始文本、图片、音频、视频及其他各种文件类型。这些非结构化数据含有大量关键信息,我们无法使用当前的关系数据库系统来检索这些信息。好消息是,机器学习领域的最新进展使我们能够以前所未有的方式来理解非结构化数据,我们可以利用这个机会使这项技术变得更普及。

面向非结构化数据的关系数据库

本文将介绍Superinsight,这是一种拥有内置机器学习功能的关系数据库。Superinsight让了解SQL的任何人都可以针对非结构化数据运行查询。

Superinsight的核心概念如下:

  • ​Superinsight建立在PostgreSQL之上,因此它拥有PostgreSQL的所有功能和机器学习能力。
  • Superinsight可自动分析和索引存储在数据类型为[TEXT]的列中的任何数据。
  • 原始文本数据作为值来​存储,而基于文件的数据(比如图片)作为实际位置的引用来存储。

安装

Superinsight可以作为独立机器来运行,也可以作为Kubernetes之类的编排框架的一部分来运行。本演示将使用独立版本。

Docker是安装Superinsight的最方便方式。运行该命令前,记得修改用户名和密码。

docker run \
--name superinsight-db-standalone \
-p 5432:5432 \
-e SUPERINSIGHT_USER=admin \
-e SUPERINSIGHT_PASSWORD=password \
-e ENV_IMAGE_TO_LABEL=True \
superinsight/superinsight-db-standalone:latest

为了本文这个演示,我们将设置标志ENV_IMAGE_TO_LABEL=True,这个选项让我们可以基于文本搜索图片。

连接

一旦Docker容器开始运行,您就可以使用PostgreSQL协议和默认数据库Superinsight通过端口5432连接到Superinsight。

postgres://admin:password@127.0.0.1:5432/superinsight

存储和搜索非结构化数据

Superinsight可以使用标准SQL来存储结构化数据和非结构化数据。Superinsight将只分析存储在数据类型为[TEXT]的列中的非结构化数据。在下面例子中,我们将使用Flipkart​​产品数据集​​。

创建表

标准的CREATE TABLE语句可用于创建表。由于我们只希望Superinsight分析名称、图片和描述下面的几列,作为非结构化数据进行分析,于是我们为这些列使用数据类型[TEXT]。此外,每个表都必须有一个主键,这是Superinsight的要求。

CREATE TABLE mldb.product (
_id serial PRIMARY KEY,
category varchar(500),
brand varchar(500),
name TEXT,
image TEXT,
description TEXT,
price float8,
url varchar(500)
);

插入记录

标准SQL Insert语句可用于插入记录。名称和描述这两列的值存储在数据库中,但至于图片,我们存储的是图片URL。Superinsight将基于每个图片URL自动读取和索引图片。在本例中,我们将为数据库添加20条记录。SQL脚本可以从这里下载:https://docs.superinsight.ai/setup/dataset/?ref=hackernoon.com#products。

原始文本的语义搜索

我们将在表和预构建模型之间使用JOIN语句创建语义搜索查询。关键字ON表明使用哪一列作为语义搜索模型的输入。WHERE关键字用于指定要比较的值。最后,我们可以使用predictions.core作为ORDER BY,对最相关的结果进行排序。

注意:在我们第一次搜索之前,Superinsight必须将最新的语义搜索模型下载到您的数据库中。这个过程可能需要一两分钟,快慢取决于网速。

SELECT predictions.score, mldb.product.image, mldb.product.name, 
mldb.product.description
FROM mldb.product
JOIN model.semantic_search
ON model.semantic_search.inputs = mldb.product.description
WHERE model.semantic_search.similar = 'Something to sit on'
ORDER BY predictions.score DESC

我们对“可以坐的东西”进行语义搜索,得到四个得分大于0.11的沙发床记录。Superinsight与其他关系数据库之间最显著的区别是,结果由理解数据上下文的机器学习模型来评分,从而获得丰富得多的搜索结果。

图片到图片的语义搜索

图片搜索就像搜索原始文本一样。只需要更改WHERE子句值和ON子句条件。我们将使用图片url作为搜索值,基于图片相似度查找记录。

SELECT predictions.score, mldb.product.image, mldb.product.name, 
mldb.product.description
FROM mldb.product
JOIN model.semantic_search
ON model.semantic_search.inputs = mldb.product.image
WHERE model.semantic_search.similar =
'http://img5a.flixcart.com/image/short/u/4/a/altht-3p-21-alisha-38-
original-imaeh2d5vm5zbtgg.jpeg'
ORDER BY predictions.score DESC

注意,第一张图片的得分是1,因为它与我们要找的图片一模一样。我们可以看到下面五张图片非常相似,所以它们的得分都高于0.87。

文本到图片的语义搜索

我们还可以通过用文本描述图片的上下文来搜索图片。在下面例子中,我们寻找“女性服装”图片。

SELECT predictions.score, mldb.product.image, 
mldb.product.name, mldb.product.description
FROM mldb.product
JOIN model.semantic_search
ON model.semantic_search.inputs = mldb.product.image
WHERE model.semantic_search.similar = 'woman dress'
ORDER BY predictions.score DESC

结语

Superinsight使存储和搜索非结构化数据变得很简单。由于Superinsight基于PostgreSQL,任何支持PostgreSQL协议的现有应用软件和数据可视化工具现在都可以使用Superinsight。欲进一步了解Superinsight,请点击下面的链接:

  • 文档:https://docs.superinsight.ai
  • GitHub:https://github.com/superinsight/superinsight-db

原文标题:Using a Relational Database to Query Unstructured Data​,作者:Nelson Chu​

责任编辑:华轩 来源: 51CTO
相关推荐

2019-07-13 15:00:17

结构化SQLNOSQL数据库

2018-04-03 14:00:03

结构化数据非结构化数据数据库

2011-05-25 15:16:55

非结构化数据库异构数据库

2021-12-12 08:37:18

结构化数据非结构化数据数据

2011-03-15 14:54:08

NoSQL

2009-02-16 15:41:04

非结构化数据SQL Server SQL Server

2009-04-17 10:09:49

非关系数据库SimpleDB

2011-03-11 11:30:56

云计算非关系数据库

2018-03-02 09:00:00

数据库NoSQLSQL

2018-09-05 08:00:00

数据库关系数据库物联网

2021-02-03 09:34:28

潮数

2014-02-09 09:53:05

2011-10-11 17:07:12

数据库Internet文件数据库

2012-10-11 17:05:41

IBMdw

2017-11-16 05:22:34

非结构化数据分析数据

2009-07-10 09:28:41

NoSQL关系数据库

2019-10-18 13:07:14

PB数据非结构化数据数据集

2018-05-14 12:30:49

数据备份非结构

2020-03-14 16:37:09

数据库IT技术
点赞
收藏

51CTO技术栈公众号