① 如何使用 kibana 分析 mysql 数据
Kibana4简单使用<center># ELK日志系统使用说明 #</center>**k3与k4的对比**![](https//git.zhubajie.la/caojiaojiao/System/raw/master/image/kibana4/%E5%AF%B9%E6%AF%94.png)![](https//git.zhubajie.la/caojiaojiao/System/raw/master/image/kibana4/%E5%AF%B9%E6%AF%9434.png)1.界面美观:Kibana4 至今未提供类似 Kibana3 中的 Query 设置功能,包括 Query 别名和颜色选择器这两个常用功能2.日志显示:kibana4有高亮显示3.页面设计:Kibana3 就是一个围绕着 dashboard 构建的单页应用。在页面逻辑上,Kibana3比较简洁,Kibana4稍复杂。<center>##一、 系统介绍</center>ELK(logstash+elasticsearch+kibana)是一套开源的实时日志分析系统。目前这套系统已经在小范围内使用了。针对各位开发人员,无需关心系统底层的实现,只需关注kibana的使用即可。kibana4中,将功能拆分成了搜索(Discover),可视化(Visualize)和仪表盘(Dashboard)三个标签,我们使用最多的地方即是搜索,目前就给大家主要介绍搜索页面的使用。<center>##二、 kibana4的使用</center>登录入口:运维平台–>应用中心:ELK地址:https//op.zhubajie.la/<center>## 快速查询项目日志</center>**选择面板–>选择项目**![](https//git.zhubajie.la/caojiaojiao/System/raw/master/image/kibana4/%E9%A1%B9%E7%9B%AE.png)首先选择面板,搜索框输入:tags:"项目名" 或host:"项目名" 即可查看对应项目的日志<center>## discover 功能 ##</center>Discover 标签页用于交互式探索你的数据。你可以访问到匹配得上你选择的索引模式的每个索引的每条记录。你可以提交搜索请求,过滤搜索结果,然后查看文档数据。你还可以看到匹配搜索请求的文档总数,获取字段值的统计情况。如果索引模式配置了时间字段,文档的时序分布情况会在页面顶部以柱状图的形式展示出来。![](https//git.zhubajie.la/caojiaojiao/System/raw/master/image/kibana4/%E4%B8%BB%E9%9D%A2%E6%9D%BF.png)**查看日志数据**![](https//git.zhubajie.la/caojiaojiao/System/raw/master/image/kibana4/%E6%97%A5%E5%BF%97%E8%AF%A6%E7%BB%86%E5%86%85%E5%AE%B9.png)点击日志内容中的小三角,查看日志详细内容。要在单独的页面上查看文档内容,点击链接。你可以添加书签或者分享这个链接,以直接访问这条特定文档。**1) 搜索数据**在 Discover 页提交一个搜索,你就可以搜索匹配当前索引模式的索引数据了。当你提交搜索的时候,直方图,文档表格,字段列表,都会自动反映成搜索的结果。hits(匹配的文档)总数会在直方图的右上角显示。*在搜索框内输入请求字符串*:- **通配符**:用 ? 表示单字母,* 表示任意个字母。比如 fir?t mess*。- **简单的文本搜索**:直接输入文本字符串。比如,如果你在搜索网站服务器日志,你可以输入error 来搜索各字段中的 error单词。- **搜索特定字段的值**:则在值前加上字段名。比如 status:200- **范围搜索**:对数值和时间,[START_VALUE TO END_VALUE]。比如,要查找 4xx 的状态码,status:[400 TO 499]。- **多个检索条件的组合**:可以使用 NOT, AND 和 OR 来组合检索,**注意必须是大写**。比如,要查找 4xx 的状态码,还是 php 或 html 结尾的数据, status:[400 TO 499] AND (extension:php OR extension:html)。其中,[] 表示端点数值包含在范围内,{} 表示端点数值不包含在范围内。- 近似搜索:用 ~ 表示搜索单词可能有一两个字母写的不对。比如 frist~;**2) 设置时间过滤器**默认的时间过滤器设置为最近 15 分钟。你可以用页面顶部的时间选择器(Time Picker)来修改时间过滤器。![](https//git.zhubajie.la/caojiaojiao/System/raw/master/image/kibana4/timer.png)**3) 日志索引设置**- Nginx日志索引:[logstash-nginx-*]- 服务化Nginx日志索引:[api-nginx-]YYYY.MM.DD- java日志索引:[logstash-jetty-]YYYY.MM.DD- php日志索引:[logstash-php-*]- mysql日志索引:[logstash-]YYYY.MM.DD- 其他日志:[logstash-]YYYY.MM.DD (注:该索引为系统默认索引,需搜索其他日志,请按步骤改变索引即可)![](https//git.zhubajie.la/caojiaojiao/System/raw/master/image/kibana4/%E7%B4%A2%E5%BC%95.png)**4) 保存搜索**你可以在 Discover 页加载已保存的搜索面板,也可以用作 visualizations 的基础。保存一个搜索,意味着同时保存下了搜索请求字符串和当前选择的索引模式。<table><td>保存当前搜索:1.点击 Discover 工具栏的 Save Search 按钮2.输入一个名称,点击 Save。加载一个已存搜索:1.点击 Discover 工具栏的 Load Search 按钮 。2.选择你要加载的搜索。如果已保存的搜索关联到跟你当前选择的索引模式不一样的其他索引上,加载这个搜索也会切换当前的已选索引模式。</td></table>**5) 改变你搜索的索引**当你提交一个搜索请求,匹配当前的已选索引模式的索引都会被搜索。当前模式模式会显示在搜索栏下方。要改变搜索的索引,需要选择另外的模式模式。要选择另外的索引模式:(1).点击 Discover 工具栏的 Settings 按钮 。(2).从索引模式列表中选取你打算采用的模式。**6) 自动刷新页面**亦可以配置一个刷新间隔来自动刷新 Discover 页面的最新索引数据。这回定期重新提交一次搜索请求。设置刷新间隔后,会显示在菜单栏时间过滤器的左边。要设置刷新间隔:1.点击菜单栏右上角的 Time Filter 。2.点击 Refresh Interval 标签。3.从列表中选择一个刷新间隔。要想自动刷新数据,点击 Auto-refresh 按钮然后选择一个自动刷新间隔:
② 如何使用kibana仪表板与可视化工具
ELK 由三部分组成elasticsearch、logstash、kibana,elasticsearch是一个近似实时的搜索平台,它让你以前所未有的速度处理大数据成为可能。 Elasticsearch所涉及到的每一项技术都不是创新或者革命性的,全文搜索,分析系统以及分布式数据库这些早就已经存在了。它的革命性在于将这些独立且有用的技术整合成一个一体化的、实时的应用。Elasticsearch是面向文档(document oriented)的,这意味着它可以存储整个对象或文档(document)。然而它不仅仅是存储,还会索引(index)每个文档的内容使之可以被搜索。在Elasticsearch中,你可以对文档(而非成行成列的数据)进行索引、搜索、排序、过滤。这种理解数据的方式与以往完全不同,这也是Elasticsearch能够执行复杂的全文搜索的原因之一。应用程序的日志大部分都是输出在服务器的日志文件中,这些日志大多数都是开发人员来看,然后开发却没有登陆服务器的权限,如果开发人员需要查看日志就需要到服务器来拿日志,然后交给开发;试想下,一个公司有10个开发,一个开发每天找运维拿一次日志,对运维人员来说就是一个不小的工作量,这样大大影响了运维的工作效率,部署ELKstack之后,开发任意就可以直接登陆到Kibana中进行日志的查看,…
③ kibana在windows怎么安装
应用程序发生异常怎么办 1.检查电脑是否存在病毒,请使用网络卫士进行木马查杀。 2.系统文件损坏或丢失,盗版系统或Ghost版本系统,很容易出现该问题。建议:使用完整版或正版系统。 3.安装的软件与系统或其它软件发生冲突,找到发生冲突的软件
④ 为什么在linux下搭建elasticsearch+kibana,两个文件目录下都没有config文件
config文件通常都可以自己创建可以找到其他系统的直接复制如果没有config系统也会加载默认的配置项目的
⑤ kibana 检索条件 存在哪
当我们用 logstash 处理 WEB 服务器访问日志的时候,肯定就涉及到一个后期查询的问题。 可能一般我们在 Kibana 上更多的是针对响应时间做数值统计,针对来源IP、域名或者客户端情况做分组统计。
⑥ 如何在CentOS 7上安装Elasticsearch,Logstash和Kibana
您的ELK服务器将需要的CPU,RAM和存储量取决于您要收集的日志的卷。在本教程中,我们将使用具有以下规格的VPS用于我们的ELK服务器:OS: CentOS 7RAM: 4GBCPU: 2注:根据自己的服务器资源分配各个节点的资源安装 Java 8Elasticsearch和Logstash需要Java,所以我们现在就安装它。我们将安装最新版本的Oracle Java 8,因为这是Elasticsearch推荐的版本。注:建议本地下载完最新版的JDK,然后上传到服务器的/usr/local/src目录# JDK下载地址:http://www.oracle.com/technetwork/java/javase/downloads123123然后使用此yum命令安装RPM(如果您下载了不同的版本,请在此处替换文件名):yum -y localinstall jdk-8u111-linux-x64.rpm# orrpm -ivh jdk-8u111-linux-x64.rpm123123现在Java应该安装在/usr/java/jdk1.8.0_111/jre/bin/java,并从/usr/bin/java 链接。安装 ElasticsearchElasticsearch可以通过添加Elastic的软件包仓库与软件包管理器一起安装。运行以下命令将Elasticsearch公共GPG密钥导入rpm:# https://www.elastic.co/guide/en/elasticsearch/reference/current/rpm.htmlrpm –import https://artifacts.elastic.co/GPG-KEY-elasticsearch123123在基于RedHat的发行版的/etc/yum.repos.d/目录中创建一个名为elasticsearch.repo的文件,其中包括:echo '[elasticsearch-5.x]name=Elasticsearch repository for 5.x packagesbaseurl=https://artifacts.elastic.co/packages/5.x/yumgpgcheck=1gpgkey=https://artifacts.elastic.co/GPG-KEY-elasticsearchenabled=1autorefresh=1type=rpm-md' | sudo tee /etc/yum.repos.d/elasticsearch.repo123456789123456789Elasticsearch 源创建完成之后,通过makecache查看源是否可用,然后通过yum安装Elasticsearch :yum makecacheyum install elasticsearch -y1212要将Elasticsearch配置为在系统引导时自动启动,请运行以下命令:sudo /bin/systemctl daemon-reloadsudo /bin/systemctl enable elasticsearch.service1212Elasticsearch可以按如下方式启动和停止:sudo systemctl start elasticsearch.servicesudo systemctl stop elasticsearch.service1212这些命令不会提供有关Elasticsearch是否已成功启动的反馈。相反,此信息将写入位于/ var / log / elasticsearch /中的日志文件中。默认情况下,Elasticsearch服务不会记录systemd日志中的信息。要启用journalctl日志记录,必须从elasticsearch中的ExecStart命令行中删除–quiet选项。服务文件。# 注释24行的 –quiet \vim /etc/systemd/system/multi-user.target.wants/elasticsearch.service1212当启用systemd日志记录时,使用journalctl命令可以获得日志记录信息:使用tail查看journal:sudo journalctl -f11要列出elasticsearch服务的日记帐分录:sudo journalctl –unit elasticsearch11要从给定时间开始列出elasticsearch服务的日记帐分录:sudo journalctl –unit elasticsearch –since "2017-1-4 10:17:16"# since 表示指定时间之前的记录123123使用man journalctl 查看journalctl 更多使用方法检查Elasticsearch是否正在运行您可以通过向localhost上的端口9200发送HTTP请求来测试Elasticsearch节点是否正在运行:curl -XGET 'localhost:9200/?pretty'1212我们能得到下面这样的回显:{"name" : "De-LRNO","cluster_name" : "elasticsearch","cluster_uuid" : "DeJzplWhQQK5uGitXr8jjA","version" : {"number" : "5.1.1","build_hash" : "5395e21","build_date" : "2016-12-06T12:36:15.409Z","build_snapshot" : false,"lucene_version" : "6.3.0"},"tagline" : "You Know, for Search"}配置 ElasticsearchElasticsearch 从默认的/etc/elasticsearch/elasticsearch.yml加载配置文件, 配置文件的格式考: https://www.elastic.co/guide/en/elasticsearch/reference/current/settings.html[[email protected] ~]# egrep -v "^#|^$" /etc/elasticsearch/elasticsearch.yml [[email protected] ~]# egrep -v "^#|^$" /etc/elasticsearch/elasticsearch.ymlnode.name: node-1path.data: /var/lib/elasticsearchpath.logs: /var/log/elasticsearchnetwork.host: 10.1.1.53 # 默认localhost,自定义为iphttp.port: 920012345671234567RPM还具有系统配置文件(/etc/sysconfig/elasticsearch),允许您设置以下参数:[[email protected] elasticsearch]# egrep -v "^#|^$" /etc/sysconfig/elasticsearch ES_HOME=/usr/share/elasticsearchJAVA_HOME=/usr/java/jdk1.8.0_111CONF_DIR=/etc/elasticsearchDATA_DIR=/var/lib/elasticsearchLOG_DIR=/var/log/elasticsearchPID_DIR=/var/run/elasticsearch12345671234567日志配置Elasticsearch使用Log4j 2进行日志记录。 Log4j 2可以使用log4j2配置。属性文件。 Elasticsearch公开单个属性$ {sys:es。日志},可以在配置文件中引用以确定日志文件的位置;这将在运行时解析为Elasticsearch日志文件的前缀。例如,如果您的日志目录是/var/log/elasticsearch并且您的集群名为proction,那么$ {sys:es。 logs}将解析为/var/log/elasticsearch/proction。默认日志配置存在:/etc/elasticsearch/log4j2.properties安装 KibanaKibana的RPM可以从ELK官网或从RPM存储库下载。它可用于在任何基于RPM的系统(如OpenSuSE,SLES,Centos,Red Hat和Oracle Enterprise)上安装Kibana。导入Elastic PGP Key我们使用弹性签名密钥(PGP密钥D88E42B4,可从https://pgp.mit.e)签名所有的包,指纹:rpm –import https://artifacts.elastic.co/GPG-KEY-elasticsearch11创建kibana源echo '[kibana-5.x]name=Kibana repository for 5.x packagesbaseurl=https://artifacts.elastic.co/packages/5.x/yumgpgcheck=1gpgkey=https://artifacts.elastic.co/GPG-KEY-elasticsearchenabled=1autorefresh=1type=rpm-md' | sudo tee /etc/yum.repos.d/kibana.repo123456789123456789kibana源创建成功之后,makecache后使用yum安装kibana:yum makecache && yum install kibana -y11使用systemd运行Kibana要将Kibana配置为在系统引导时自动启动,请运行以下命令:sudo /bin/systemctl daemon-reloadsudo /bin/systemctl enable kibana.service1212Kibana可以如下启动和停止sudo systemctl start kibana.servicesudo systemctl stop kibana.service1212配置KibanaKibana默认从/etc/kibana/kibana.yml文件加载其配置。 参考:https://www.elastic.co/guide/en/kibana/current/settings.html注意:本实验教程把localhost都改成服务器IP,如果不更改localhost,需要设置反向代理才能访问到kibana。在同一服务器上安装一个Nginx反向代理,以允许外部访问。安装nginx配置Kibana在localhost上监听,必须设置一个反向代理,允许外部访问它。本文使用Nginx来实现发向代理。创建nginx官方源来安装nginx# https://www.nginx.com/resources/wiki/start/topics/tutorials/install/echo '[nginx]name=nginx repobaseurl=http://nginx.org/packages/centos/$releasever/$basearch/gpgcheck=0enabled=1' | sudo tee /etc/yum.repos.d/nginx.repo1234567812345678使用yum安装nginx和httpd-toolsyum install nginx httpd-tools -y11使用htpasswd创建一个名为“kibanaadmin”的管理员用户(可以使用其他名称),该用户可以访问Kibana Web界面:[[email protected] ~]# htpasswd -c /etc/nginx/htpasswd.users kibanaadminNew password: # 自定义Re-type new password: Adding password for user kibanaadmin12341234使用vim配置nginx配置文件[[email protected] ~]# egrep -v "#|^$" /etc/nginx/conf.d/kibana.conf server {listen 80;server_name kibana.aniu.co;access_log /var/log/nginx/kibana.aniu.co.access.log main;error_log /var/log/nginx/kibana.aniu.co.access.log;auth_basic "Restricted Access";auth_basic_user_file /etc/nginx/htpasswd.users;location / {proxy_pass http://localhost:5601;proxy_http_version 1.1;proxy_set_header Upgrade $http_upgrade;proxy_set_header Connection 'upgrade';proxy_set_header Host $host;proxy_cache_bypass $http_upgrade;}}
⑦ kibana的配置文件用配置吗
开机之后,任务栏通知区域弹出提示:您已使用临时配置文件登录。解决思路:先易后难,逐一排查。方法一:开始→运行→输入:services.msc点击确定(或按回车键)打开服务。确保负责加载,卸载用户配置文件的UserProfileService服务已经开启。如果启动菜单是灰色的(不可同):服务属性→启动类型→自动或者手动→应用→启动→确定同样,查看负责组策略的GroupPolicyClient服务是否开启了?未开启,以同样的方法开启之。方法二:开始→控制面板控制面板→系统和安全系统和安全→系统系统→高级系统设置高级→用户配置文件→设置删除临时用户,选择正确的用户配置→确定。或者再另新建一个新的账户,再做进一步的处理。方法三:如果在Windows8.1操作系统中使用临时配置文件登录的话,可能是原先账户已经发生损坏造成的,可以根据以下步骤创建一个新的本地账号。将鼠标放在屏幕右下角,在弹出的右边框中点击→设置→更改电脑设置→用户→添加用户→不使用Microsoft账户登录→本地账户→创建新的本地账户→注销当前账户→然后用新的账户登录。方法四:如果之前已经有还原点,恢复一下系统也是比较省事的。开始→控制面板→系统→系统保护→找到以前备份的还原点→还原。方法五:在【开始】→【运行】中输入:regedit按回车键之后,打开注册表编辑器。先给权限,右键点击HKEY_CURRENT_USER→权限→涵盖当前的账户→允许完全控制→确定。重启电脑,看是否解决了?不行,再进行下一步。依次定位到:HKEY_LOCAL_MACHINE\SOFTWARE\Microsoft\WindowsNT\CurrentVersion\ProfileList右边窗口就有使用临时配置文件的账户相关讯息,点开,看清楚,确认之后,再删除对应的键值,重启电脑即可。(如果对注册表不是太熟悉不宜使用此法,否则删错了键值,连这个临时配置的系统也进不去!)参考资料
⑧ Linux下搭建elasticsearch+kibana,两个文件目录下都没有config的yml配置文件
elasticsearch的config文件夹里面有两个配置文件:elasticsearch.yml和logging.yml,第一个是es的基本配置文件,第二个是日志配回置文件,es也是答使用log4j来记录日志的,所以logging.yml里的设置按普通log4j配置文件来设置就行了。下面主要讲解下elasticsearch.yml这个文件中可配置的东西。cluster.name:elasticsearch配置es的集群名称,默认是elasticsearch,es会自动发现在同一网段下的es,如果在同一网段下有多个集群,就可以用这个属性来区分不同的集群。node.name:"FranzKafka"节点名,默认随机指定一个name列表中名字,该列表在es的jar包中config文件夹里name.txt文件中,其中有很多作者添加的有趣名字。node.master:true指定该节点是否有资格被选举成为node,默认是true,es是默认集群中的第一台机器为master,如果这台机挂了就会重新选举master。
⑨ kibana 运行在什么环境上
centos,ubuntu,windows,mac都是可以的,不同的系统选择不同的下载包就行,你可以到官网看,下载页面包括windows,mac,deb64,rmp64,linux64这几种,但是一般来说如果是作为公司服务用肯定是要部署的linux的服务器上去的
⑩ es/logstash/kibana框架是用于什么
ELK 由三部分组成elasticsearch、logstash、kibana,elasticsearch是一个近似实时的搜索平台,它让你以前所未有的速度处理大数据成为可能。Elasticsearch所涉及到的每一项技术都不是创新或者革命性的,全文搜索,分析系统以及分布式数据库这些早就已经存在了。它的革命性在于将这些独立且有用的技术整合成一个一体化的、实时的应用。Elasticsearch是面向文档(document oriented)的,这意味着它可以存储整个对象或文档(document)。然而它不仅仅是存储,还会索引(index)每个文档的内容使之可以被搜索。在Elasticsearch中,你可以对文档(而非成行成列的数据)进行索引、搜索、排序、过滤。这种理解数据的方式与以往完全不同,这也是Elasticsearch能够执行复杂的全文搜索的原因之一。应用程序的日志大部分都是输出在服务器的日志文件中,这些日志大多数都是开发人员来看,然后开发却没有登陆服务器的权限,如果开发人员需要查看日志就需要到服务器来拿日志,然后交给开发;试想下,一个公司有10个开发,一个开发每天找运维拿一次日志,对运维人员来说就是一个不小的工作量,这样大大影响了运维的工作效率,部署ELKstack之后,开发任意就可以直接登陆到Kibana中进行日志的查看,就不需要通过运维查看日志,这样就减轻了运维的工作。日志种类多,且分散在不同的位置难以查找:如LAMP/LNMP网站出现访问故障,这个时候可能就需要通过查询日志来进行分析故障原因,如果需要查看apache的错误日志,就需要登陆到Apache服务器查看,如果查看数据库错误日志就需要登陆到数据库查询,试想一下,如果是一个集群环境几十台主机呢?这时如果部署了ELKstack就可以登陆到Kibana页面进行查看日志,查看不同类型的日志只需要电动鼠标切换一下索引即可。Logstash:日志收集工具,可以从本地磁盘,网络服务(自己监听端口,接受用户日志),消息队列中收集各种各样的日志,然后进行过滤分析,并将日志输出到Elasticsearch中。Elasticsearch:日志分布式存储/搜索工具,原生支持集群功能,可以将指定时间的日志生成一个索引,加快日志查询和访问。Kibana:可视化日志Web展示工具,对Elasticsearch中存储的日志进行展示,还可以生成炫丽的仪表盘。