标签：Hadoop

最近调试程序，由于各种原因把，不允许开发机器连接Hadoop集群，只能在本机部署了，我使用了Docker和WSL（适用于Linux的Windows子系统）两种方法，经过对比，最终决定用WSL，Docker还不算稳定，动不动就闪退了。 一、环...

1. 前言 通常我一直在虚拟机中安装Hadoop、Hive、Hbase等大数据相关的组件，但随着我的笔记本使用年限越爱越长，性能也下降的很快，已经达到开虚拟机就会开的地步，于是我就考虑直接将Hadoop安装到macOS上，避免了虚拟机对资源...

1. 场景 CDH6.3.4集群，开通了Kerberos认证，在客户端得机器上已经通过了Kerberos得认证并且缓存了票据。 由于是新装的系统，安装了最新的jdk-8u371。 2. 报错 执行hdfs dfs -ls / 命令频繁的打印...

1. 背景 最近重新复习下大数据相关的知识，于是就决定在mbp上安装一套大数据服务（Hadoop、Hive、Spark），使用brew比较简单，很容易就安装好了，按时启动的时候出现了如下错误： 根据错误日志，发现是macOS的权限问题，目前...

今天发现测试环境Hadoop集群开始频繁宕掉，查看namenode日志发现有如下报错信息： java.io.IOException: Timed out waiting 20000ms for a quorum of nodes to re...

在HDFS中，提供了fsck命令，用于检查HDFS上文件和目录的健康状态、获取文件的block块信息和位置信息等。 具体命令介绍： -move: 移动损坏的文件到/lost+found目录下 -delete: 删除损坏的文件 -openfo...