利用Linux管道技术，轻松读取数据库数据 (linux从管道中读取数据库)

在Linux系统中，使用管道技术可以将多个命令串联在一起，从而实现更加复杂的操作。在数据处理方面，利用管道技术也能够方便地读取数据库数据。本文将介绍如何使用Linux管道技术，轻松读取数据库数据。

一、安装MySQL客户端

需要在Linux系统上安装MySQL客户端。在Debian/Ubuntu系统上，可以使用以下命令进行安装：

“`

sudo apt-get install mysql-client

“`

在CentOS/RHEL系统上，可以使用以下命令进行安装：

“`

sudo yum install mysql

“`

安装完成后，可以通过以下命令测试连接数据库：

“`

mysql -h 主机地址 -P 端口号 -u 用户名 -p

“`

二、使用Linux管道读取数据库数据

1.输出数据库所有表名

我们可以使用以下命令输出数据库中所有表的名称：

“`

mysql -h 主机地址 -P 端口号 -u 用户名 -p 数据库名 -e “show tables;”

“`

该命令将输出数据库中所有表的名称。

2.输出数据表所有记录

接着，我们可以使用以下命令输出指定数据表的所有记录：

“`

mysql -h 主机地址 -P 端口号 -u 用户名 -p 数据库名 -e “select * from 数据表名;”

“`

该命令将输出指定数据表的所有记录。

3.输出数据表指定字段记录

如果只需要输出数据表中指定字段的记录，可以使用以下命令：

“`

mysql -h 主机地址 -P 端口号 -u 用户名 -p 数据库名 -e “select 字段1,字段2 from 数据表名;”

“`

该命令将只输出指定字段的记录。

4.将输出数据传输到管道

通过上述命令，我们已经能够从数据库中读取数据。接下来，我们可以将输出数据传输到管道中进行进一步处理。例如，可以使用以下命令将输出数据作为输入数据传输到grep命令中：

“`

mysql -h 主机地址 -P 端口号 -u 用户名 -p 数据库名 -e “select * from 数据表名;” | grep “关键字”

“`

该命令将输出包含指定关键字的记录。

5.使用awk命令处理输出数据

除了使用grep命令进行过滤外，还可以使用awk命令对输出数据进行处理。例如，可以使用以下命令将输出数据传输到awk命令中，筛选指定字段的记录：

“`

mysql -h 主机地址 -P 端口号 -u 用户名 -p 数据库名 -e “select 字段1,字段2 from 数据表名;” | awk ‘{print $1,$2}’

“`

该命令将输出指定字段的记录。

6.使用sed命令处理输出数据

除了使用awk命令外，还可以使用sed命令对输出数据进行处理。例如，可以使用以下命令将输出数据传输到sed命令中，将指定字段用”:”分隔：

“`

mysql -h 主机地址 -P 端口号 -u 用户名 -p 数据库名 -e “select 字段1,字段2 from 数据表名;” | sed ‘s/\t/:/g’

“`

该命令将指定字段用”:”分隔。

三、

Linux管道技术为数据处理提供了方便、高效的方式，可以快速、轻松地读取数据库数据。通过上述命令的组合，可以实现数据的过滤、筛选、转换等操作，为数据处理带来更多的可能性。

相关问题拓展阅读：

• Linux管道通信问题
• Handler消息机制（一）：Linux的epoll机制

Linux管道通信问题

管道创建的时候读端和写端就已经打开了，不需要再次打开。

fork()之后就变成两个进程了，子进程会继承父进程调用fork()之前打开的所有文件描述符（管道也是文件，一种特殊的文件）。

在进程控制块中有一个数组标识了所有该进程已打开的文件，而文毕粗件描述符实际高渣上就是这个数组的下标。

但是，戚数悄一定要记得这是两个进程，也就是说现在有两个进程都打开了这个管道。在一个进程中关闭它的读端或者写端并不会影响另一个进程中该管道的状态。对这个示例程序来说就是：在父进程中关闭读端，但是在子进程中读端还是打开的。同理，在子进程中关闭写端也并不会影响父进程，在父进程中写端仍然是打开的。

fork()之后两个进程都有可能得到调度运行，至于谁先得到调度谁后得到调度则是不确定的，每次的结果可能都不一样（即使在子进程中调用了sleep函数也不一定能保证父进程先得到调度）。管道是同步的进程间通信方式，也就是说写端调用write往管道中写入消息的时候进程会被阻塞在write函数上，只有当读进程把管道中的消息取走之后才会返回（严格来说是进入就绪状态）。

关于linux api你可以看看我在百度知道上共享的《Linux内核源代码情景分析》，里面有详细的描述。 建议多看看进程管理和进程间通信那两章，了解进程的四要素和同步/异步的区别。

Handler消息机制（一）：Linux的epoll机制

在linux 没有实现epoll事件驱动机制之前，我们一般选择用select或者poll等IO多路复用的方法来实现并发服务程序。在linux新的内核中，有了一种替换它的机制，就是epoll。

相比select模型，

poll使用链表保存文件描述符，因此没有了监视文件数量的限制

，但其他三个缺点依然存在。

假设我们的服务器需要支持100万的并发连接，则在__FD_SETSIZE 为1024的情况下，则我们至少需要开辟1k个进程才能实现100万的并发连接。除了进程间上下文切换的时间消耗外，从内核/用户空间大量的无脑内存拷贝、数组轮询等，是系统难以承受的。因此，基于select模型的服务器程序，要达到10万级别的并发访问，是一个很难完成的任务。

由于epoll的实现机制与select/poll机制完全不同，上面所说的 select的缺点在epoll上不复存在。

设想一下如下场景：有100万个客户端同时与一个服务器进程保持着TCP连接。而每一时刻，通常只有几百上千个TCP连接是活跃的(事实上大部分场景都是这种情况)。如何实现这样的高并发？

在select/poll时代，服务器进程每次都把这100万个连接告诉操作系统(从用户态复制句柄数据结构到内核态)，让操作系统内核去查询这些套接字上是否有事件发生，轮询完后，再将句柄数据复制到用户态，让服务器应用程序轮询处理已发生的网络事件，这一过程资源消耗较大，因此，select/poll一般只能处理几千的并发连接。

epoll的设计和实现与select完全不同。epoll通过在Linux内核中申请一个简易的文件系统(文件系统一般用什么数据结构实现？B+树)。把原先的select/poll调用分成了3个部分：

1）调用epoll_create()建立一个epoll对象(在epoll文件系统中为这个句柄对象分配资源)

2）调用epoll_ctl向epoll对象中添加这100万个连接的套接字

3）调用epoll_wait收集发生的事件的连接

如此一来，要实现上面说是的场景，只需要在进程启动时建立一个epoll对象，然后在需要的时候向这个epoll对象中添加或者删除连接。同时，epoll_wait的效率也非常高，因为调用epoll_wait时，并没有一股脑的向操作系统复制这100万个连接的句柄数据，内核也不需要去遍历全部的连接。

当某一进程调用epoll_create方法时，Linux内核会创建一个eventpoll结构体，这个结构体中有两个成员与epoll的使用方式密切相关。eventpoll结构体如下所示：

每一个epoll对象都有一个独立的eventpoll结构体，用于存放通过epoll_ctl方法向epoll对象中添加进来的事件。这些事件都会挂载在红黑树中，如此，重复添加的事件就可以通过红黑树而高效的识别出来(红黑树的插入时间效率是lgn，其中n为树的高度)。

而所有

添加到epoll中的事件都会与设备(网卡)驱动程序建立回调关系，也就是说，当相应的事件发生时会调用这个回调方法

。这个回调方法在内核中叫ep_poll_callback,它会将发生的事件添加到rdlist双链表中。

在epoll中，对于每一个事件，都会建立一个epitem结构体，如下所示：

当调用epoll_wait检查是否有事件发生时，只需要检查eventpoll对象中的rdlist双链表中是否有epitem元素即可。如果rdlist不为空，则把发生的事件复制到用户态，同时将事件数量返回给用户。

epoll结构示意图

通过红黑树和双链表数据结构，并结合回调机制，造就了epoll的高效。

events可以是以下几个宏的：

EPOLLIN：触发该事件，表示对应的文件描述符上有可读数据。(包括对端SOCKET正常关闭)；

EPOLLOUT：触发该事件，表示对应的文件描述符上可以写数据；

EPOLLPRI：表示对应的文件描述符有紧急的数据可读（这里应该表示有带外数据到来）；

EPOLLERR：表示对应的文件描述符发生错误；

EPOLLHUP： 表示对应的文件描述符被挂断；

EPOLLET：将EPOLL设为边缘触发(EdgeTriggered)模式，这是相对于水平触发(Level Triggered)来说的。

EPOLLONESHOT： 只监听一次事件，当监听完这次事件之后，如果还需要继续监听这个socket的话，需要再次把这个socket加入到EPOLL队列里。

示例：

ET(EdgeTriggered)

:高速工作模式，只支持no_block(非阻塞模式)。在此模式下，当描述符从未就绪变为就绪时，内核通过epoll告知。然后它会假设用户知道文件描述符已经就绪，并且不会再为那个文件描述符发送更多的就绪通知，直到某些操作导致那个文件描述符不再为就绪状态了。(触发模式只在数据就绪时通知一次，若数据没有读完，下一次不会通知，直到有新的就绪数据)

LT(LevelTriggered)

:缺省工作方式，支持blocksocket和no_blocksocket。在LT模式下内核会告知一个文件描述符是否就绪了，然后可以对这个就绪的fd进行IO操作。如果不作任何操作，内核还是会继续通知！若数据没有读完，内核也会继续通知，直至设备数据为空为止！

1.我们已经把一个用来从管道中读取数据的文件句柄(RFD)添加到epoll描述符

\2. 这个时候从管道的另一端被写入了2KB的数据

\3. 调用epoll_wait(2)，并且它会返回RFD，说明它已经准备好读取操作

\4. 然后我们读取了1KB的数据

\5. 调用epoll_wait(2)……

ET工作模式：

如果我们在第1步将RFD添加到epoll描述符的时候使用了EPOLLET标志，在第2步执行了一个写操作，第三步epoll_wait会返回同时通知的事件会销毁。因为第4步的读取操作没有读空文件输入缓冲区内的数据，因此我们在第5步调用epoll_wait(2)完成后，是否挂起是不确定的。epoll工作在ET模式的时候，必须使用非阻塞套接口，以避免由于一个文件句柄的阻塞读/阻塞写操作把处理多个文件描述符的任务饿死。

只有当read(2)或者write(2)返回EAGAIN时(认为读完)才需要挂起，等待。但这并不是说每次read()时都需要循环读，直到读到产生一个EAGAIN才认为此次事件处理完成，当read()返回的读到的数据长度小于请求的数据长度时(即小于sizeof(buf))，就可以确定此时缓冲中已没有数据了，也就可以认为此事读事件已处理完成。

LT工作模式：

LT方式调用epoll接口的时候，它就相当于一个速度比较快的poll(2)，并且无论后面的数据是否被使用，因此他们具有同样的职能。

当调用 epoll_wait检查是否有发生事件的连接时，只是检查 eventpoll对象中的 rdllist双向链表是否有 epitem元素而已，如果 rdllist链表不为空，则把这里的事件复制到用户态内存中，同时将事件数量返回给用户。因此，epoll_wait的效率非常高。epoll_ctl在向 epoll对象中添加、修改、删除事件时，从 rbr红黑树中查找事件也非常快，也就是说，epoll是非常高效的，它可以轻易地处理百万级别的并发连接。

1.减少用户态和内核态之间的文件句柄拷贝；

2.减少对可读可写文件句柄的遍历。

关于linux从管道中读取数据库的介绍到此就结束了，不知道你从中找到你需要的信息了吗 ？如果你还想了解更多这方面的信息，记得收藏关注本站。

香港服务器首选树叶云，2H2G首月10元开通。
树叶云（shuyeidc.com）提供简单好用，价格厚道的香港/美国云服务器和独立服务器。IDC+ISP+ICP资质。ARIN和APNIC会员。成熟技术团队15年行业经验。