有几种监控Spark应用的手段： WEB UI, metrics和外部手段

阅读全文

Spark可以在三个地方配置系统:

• Spark属性控制大部分的应用参数。 这些属性可以通过SparkConf对象, 或者Java系统属性.
• 环境变量可以为每台机器配置，比如IP地址， 通过每个节点上的conf/spark-env.sh脚本.
• 可同通过log4j.properties配置日志.

阅读全文

除了在Mesos或YARN集群管理器运行，Spark还提供了一个简单的独立部署模式。你可以手动启动一个独立的集群，通过手动启动master和worker，或使用我们提供的启动脚本。也可以在一台机器上运行这些守护进程进行测试，。

阅读全文

Spark bin文件夹下的spark-submit脚本用来启动集群中的应用。 它使用统一的提交接口支持各种类型的集群服务器， 这样你你就不必为每种类型都配置自己的应用.

阅读全文

这篇文章简要介绍了怎么将Spark运行在集群之上， 便于理解其使用的组件。 你可能需要阅读应用提交指南了解如何提交应用到Spark集群中。

阅读全文

本文档由colobu翻译自Spark官方文档 Spark Programming Guide，当前版本是1.1.1。

0.8.1版本由taobao技术部团队的月禾mm初审，以及微博上的Spark达人@crazyjvm复审。 0.8.1译文链接

阅读全文

本教程快速介绍了Spark的使用。 首先我们介绍了通过Spark 交互式shell调用API( Python或者scala代码)，然后演示如何使用Java, Scala或者Python编写独立程序。 你可以查看Spark编程指南了解完整的参考。

开始下面的快速入门之前，首先需要到Spark网站下载一份打包好的spark。 既然本教程中我们不使用HDFS,你可以随便下载一个适配任何Hadoop的版本的Spark。

本教程翻译时的Spark版本为1.1.1

阅读全文

在 Java7引入的诸多新特性中，Fork/Join 框架无疑是重要的一项。JSR 166旨在标准化一个简单可扩展的框架，将并行（parallel ）计算的通用工具类组织成一个类似java.util中Collection一样的包。其目标是使之对开 发人员易用且易维护，同时该框架也旨在为并行计算提供一个高质量实现。目前已经有多个新的类和接口被添加到该框架中了。

该新特性主要是解决Java社区中对于如synchronized，wait和notify等操作的需求。Fork/Join框架设计目标就是可以容易地将算法并行化、分治化。开发人员曾多次想用自己(在非底层实现)的并发机制实现这一目标，因此新框架的想法是提供标准化和效率最高的并发工具协助开发人员实现各种多线程应用。其所需的类和接口都位于java.util.concurrent包中。

本文将描述Fork/Join框架及其如何用于解决Java并行问题(这些问题可参考本专题的第一部分)。

阅读全文

本文将快速介绍Spring Data for Mongo的使用。
Spring Data for MongoDB是Spring Data的一个子模块。 目标是为MongoDB提供一个相近的一致的基于Spring的编程模型。
Spring Data for MongoDB核心功能是映射POJO到Mongo的DBCollection中的文档，并且提供Repository 风格数据访问层。

相似的ORM/持久化框架还有

• morphia: MongoDB官方支持的ORM框架,可以很好的和Spring, Guice等DI框架集成，使用起来很方便。
• Hibernate OGM: Hibernate提供了Hibernate风格的NoSql ORM框架。
• jongo: 提供Mongo shell一样灵活的查询，并且提供ORM by Jackson，和Mongo java driver一样快。

阅读全文

本文收集了应用MongoDB（以及Spring-data-mongo）的一些技巧，坑和诀窍。 排名不分先后，文末附有出处。

阅读全文