3. Twitter工程师的工具箱
4. Twitter背后的编程语言和框架 - OpenJDK:Java的开源版本。Twitter陆续将一些项目从Rails迁移到了Java。
- Python:一种高效的动态解释型Web编程语言。
- Ruby和 Ruby on Rails:Twitter最初主要由Ruby和Rails开发。
- Scala:Twitter使用的主要应用编程语言之一,很多Twitter的基础架构都是用Scala编写。
- Clojure:Clojure是一种运行在Java平台上的Lisp方言,在任何具备Java虚拟机的地方,都可以利用Lisp的强大功能。Twitter的大数据处理系统Storm就是基于Clojure。
- Drupal:使用PHP语言编写的开源内容管理框架(CMF),由内容管理系统(CMS)和PHP开发框架共同构成。Twitter的开发者社区基于Drupal构建。
- Sinatra:一个轻量、快速的Ruby开发框架。
5. Twitter的前端解决方案 - jQuery:全球使用最广泛的JavaScript框架。
- Less:一个使用广泛的CSS预处理器,通过简单的语法和变量对CSS进行扩展,可减少很多CSS的代码量。
- MooTools:一个简洁、模块化、面向对象的开源JavaScript框架,为开发者提供了一个跨浏览器的JS解决方案
- Zepto.js:一个轻量级的Javascript框架,主要用于移动开发
6. Twitter服务开发框架 - TwistedMatrix:一个Python 框架,用来开发非阻塞异步的网络服务和应用程序。
- Netty:一个异步的、事件驱动的Web应用框架和工具,用于快速开发高性能、高可靠性的网络服务器和客户端程序。Netty目前作为Twitter的核心队列Kestrel的通信模块。
- Apache Thrift:一个由Facebook开源的远程服务调用框架,采用接口描述语言定义并创建服务,支持可扩展的跨语言服务开发,所包含的代码生成引擎可以在多种语言中创建高效的、无缝的服务。
Twitter公司所开源的项目
Twitter从开源社区中获得了大量的好处,而Twitter也在不断地回馈社区,开源了大量基础设施和工具,使得其他企业和开发者不必重新发明轮子,在这些开源项目的基础上更加快速地实现自己所需。
1. 大数据处理 - scalding:一个用于 Cascading的Scala API。Cascading是一个构建于Hadoop上的API,用来创建复杂和容错数据处理工作流,它抽象了集群拓扑结构和配置,允许开发者快速开发复杂分布式的应用,而不用考虑背后的MapReduce。
- summingbird:允许开发者以类似于本地Scala或Java的方式编写MapReduce程序,并在大部分著名的分布式MapReduce平台(包括 Storm和 Scalding)中执行它们。
2. 前端项目
3. 后端服务 - Twitter Mysql:Twitter的MySQL分支
- Parquet:一种Twitter内部供Hadoop使用的列式存储格式,为Hadoop生态系统中的所有项目提供支持高效率压缩的列式数据表达,而且与数据处理框架、数据模型或编程语言无关。
- Finagle:一个允许开发者使用Java、Scala或其他JVM语言来构建异步RPC服务器和客户端的库,主要用于Twitter的后端服务。
- iago:一个负载生成器,用来在产品正式发布前做流量负载测试。
- twemproxy:一个快速、轻量级的memcached和redis代理服务器
- zipkin:一个分布式的跟踪系统。在Twitter中用于收集各个服务上的监控数据,并提供查询接口。
4. Twitter基础设施通用库
|