apache cloudstack cloudopen - … · apache cloudstack as cloud-management-environment claus kalle...
TRANSCRIPT
Apache Cloudstack asCloud Management EnvironmentCloud-Management-Environment
Claus KalleRRZK Uni Köln 14 10 2014RRZK Uni Köln, 14.10.2014
Abteilung SystemeClaus Kalle23.09.2014 Universität zu Köln
RRZK
Folie: 1
DisclaimerDisclaimer
Abteilung SystemeClaus Kalle23.09.2014 Universität zu Köln
RRZK
Folie: 2
AgendaAgenda
• CloudVMware• VMware
• OpenSource: Apache Cloudstackp p– Functions
Network-Options– Network-Options• Functional Comparison
Abteilung SystemeClaus Kalle23.09.2014 Universität zu Köln
RRZK
Folie: 3
Cloud - Recap 1Cloud Recap 1IAAS – PAAS – SAAS
Universität zu KölnRRZK
Folie: 4Abteilung SystemeClaus Kalle23.09.2014
Cloud Recap 2Cloud - Recap 2
Universität zu KölnRRZK
Folie: 5Abteilung SystemeClaus Kalle23.09.2014
Cloud Recap 3Cloud - Recap 3
Universität zu KölnRRZK
Folie: 6Abteilung SystemeClaus Kalle23.09.2014
Cloud Recap 4Cloud - Recap 4
Universität zu KölnRRZK
Folie: 7Abteilung SystemeClaus Kalle23.09.2014
Universität zu KölnRRZK
Folie: 8Abteilung SystemeClaus Kalle23.09.2014
AgendaAgenda
• CloudVMware• VMware
• OpenSource: Apache Cloudstackp p– Functions
Network-Options– Network-Options• Functional Comparison
Abteilung SystemeClaus Kalle23.09.2014 Universität zu Köln
RRZK
Folie: 9
VMware Components Breakout into LayersVMware Components Breakout into Layers
Universität zu KölnRRZK
Folie: 10Abteilung SystemeClaus Kalle23.09.2014
VMware ProductsVMware Products
Universität zu KölnRRZK
Folie: 11Abteilung SystemeClaus Kalle23.09.2014
VMware DevelopmentVMware Development
• ESXi 5.5vCenter• vCenter
• CloudDirector
Universität zu KölnRRZK
Folie: 12Abteilung SystemeClaus Kalle23.09.2014
VMware at RRZK: GrowthVMware at RRZK: Growth800
600
700
400
500Server
CPUs
Cores
200
300 Number of Guests
Disk/100GB
Memory/10GB
0
100
Universität zu KölnRRZK
Folie: 13Abteilung SystemeClaus Kalle23.09.2014
And again new Bundles in 2014And again new Bundles in 2014
Universität zu KölnRRZK
Folie: 14Abteilung SystemeClaus Kalle23.09.2014
VMware PricingVMware PricingvSphere Enterprise PlusSp e e te p se us• per socket Invest
ca 1800 €• ca. 1800 €• Per socket S&S / year• ca. 450 € (150 sockets ~70000 €)For 2-socket M620 blade 3 Jahre S&SFor 2 socket M620 blade, 3 Jahre S&S• ca. 6300 €Hardware ca 5500 €Hardware ca. 5500 €4 times overcommitment gains10000 € !
Universität zu KölnRRZK
Folie: 15Abteilung SystemeClaus Kalle23.09.2014
VMware core functionsVMware core functions• vMotion• HA• Heterogeneous Guests ( t MS Li i )• Heterogeneous Guests (caveat MS-Licencing)
• Import of VLANs• Distributed vSwitch• NSX: virtual Networking• LDAP-Integration• Templates• MISSING:
easy to use Self-Service FunctionAbteilung SystemeClaus Kalle23.09.2014 Universität zu Köln
RRZK
Folie: 16
Comparison with other SolutionsVMware vSphere 5.5 Enterprise Plus + vCenter Server 5.5
Microsoft Windows Server 2012R2 + System Center 2012 R2 Datacenter Editions
RHEL6 KVM (lt. Redhat Webpage)
Unterstützung physikalischer CPUs pro Lizenz 1 2Managed OSE's pro Lizenz unlimited unlimited
Lizenz für Enterprise Operations Monitoring und Management der Hosts, Guest VMs und Application
f
Nein, separate Lizenz uber vCenter Operations Manager oder Upgrade auf vSphere mit
Ja, im System Center 2012 R2 enthalten
Workloads. die innerhalb der VMs laufen Operations Management et eifoiderlich
enthalten
Lizenz fur Private‐Cloud‐Management‐Fähigkeit
Nein, Private‐Cloud‐Management‐Fähigkeit erfordert eine Lizenz fiber VMWare vCloud Suite.
Ja, im System Center 2012 R2 enthalten
Maximale Anzahl Iogischer Prozessoren pro Host 320 320 4096Maximaler physikalischer RAM pro Host 4 TB 4 TB 64 TBM i l A hl kti VM H t 512 1024Maximale Ausahl aktiver VMs pro Host 512 1024Maximale Anzahl virtueller CPUs pro VM 64 64 160Maximaler virtueller RAM pro VM 1 TB 1 TB 2 TBMaximale Anzahl physikalischer Hosts je Cluster 32 64Maximale Anzahl der VMs je Cluster 4000 8000Virtual Machine Snapshots bis zu 32 Snapshots pro VM bis zu 50 Snapshots pro VM
Application Load Balancing for Scaling‐Out Application Tiers
Nein, erfordert die Versionen vCloud Network and Security or dei vCloud Suite
Ja, über System Center 2012 R2 VMM
dei vCloud SuiteBare metal deployment of new Storage hosts and clusters
NeinJa, über System Center 2012 R2 VMM
Virtualization of USB Devices Ja, via USB Passthrough supportJa, via Remote Desktop connections
Live Migration of running VMs
Ja, (limited to 4 concurrent vMotions per host when using 1GbE network adapters and 8 concurrent vMotions per Host
Ja (unlimited concurrent live VM Migrations)
concurrent vMotions per Host when using 10GbE)
Live Migration using compression of VM memory state
Nein Ja
Maximale Anzahl der Nodes pro VM Guest Cluster 5 64Maximale Anzahl virtueller SCSI HDDs pro VM 60 (PVSCSI) 120 (Virtual SATA) 256 (Virtual SCSI)Native 4K Disk Support Nein JaHot‐Shrink Virtual SCSI Hard Disks for running VMs Nein Ja
Ja, aber nur bis max. 400GB des
Flash‐based Read Cache
Ja, aber nur bis max. 400GB des Caches pro virtueller Disk / 2TB zusammengefassten Caches pro Host fur alle virtuellen Disks
Ja, limitiert auf his zu 160 physikalische Disks und 480TB gesamter Kapazitat
Flash‐based Writeback Cache Nein JaAutomated Tiered Storage between SSD and HDD using commodity hard disks
Nein Ja
Storage Encryption Nein Ja, per BitLocker
Universität zu KölnRRZK
Folie: 17
g yp , p
Abteilung SystemeClaus Kalle23.09.2014
Get out of the Hidden Cost Trap!Get out of the Hidden Cost Trap!
Universität zu KölnRRZK
Folie: 18Abteilung SystemeClaus Kalle23.09.2014
AgendaAgenda
• CloudVMware• VMware
• OpenSource: Apache Cloudstackp p– Functions
Network-Options– Network-Options• Functional Comparison
Abteilung SystemeClaus Kalle23.09.2014 Universität zu Köln
RRZK
Folie: 19
4 Opensource Cloud Products4 Opensource-Cloud-Products
• HPC-orientedSmall scaleSY
S 20
11
• Small scale, not much networkA
K-Z
S
Gekauft von
• Toolkit, HPC, roll your own cloudS
2014
your own cloud• Mid- to Hi-End,
ll f t i tAK
-ZSY
S
smaller footprint
Universität zu KölnRRZK
Folie: 20Abteilung SystemeClaus Kalle23.09.2014
Openstack Architecturep
Thanks toPiotr Kasprzak (GWDG)
Universität zu KölnRRZK
Folie: 21Abteilung SystemeClaus Kalle23.09.2014
Openstack Logical DiagramOpenstack Logical Diagram
Universität zu KölnRRZK
Folie: 22Abteilung SystemeClaus Kalle23.09.2014
Apache CloudstackApache Cloudstack
Universität zu KölnRRZK
Folie: 23Abteilung SystemeClaus Kalle23.09.2014
CloudStack ArchitectureCloudStack ArchitectureUser Interface Developer API
Availability and Security
Amazon*
Image Libraries
ment , Etc)
Administrator End User Console
Dynamic Workload Management
snapshots LB HA MonitoringApplication Catalog
ratio
n A
PI
egratio
ny Managem
Resource Management
Dynamic Workload Management Custom Templates
Operating System ISOs
Inte
g
tional Inte
ng, Ide
ntity
Service Management (Metering, Accounts, etc.)
Servers Storage Network
Ope
rat
S, M
onito
rin
Servers N t k St
Virtualization Layer
(OSS/BSS
Servers Network Storage
Vokabulary …y
prior knowledge… prior knowledge
Universität zu KölnRRZK
Folie: 25Abteilung SystemeClaus Kalle23.09.2014
Cloud Infrastructure Overview -Summary
One or more hosts grouped into a• One or more hosts grouped into a cluster
• One or more clusters grouped into a pod Secondarya pod
• One or more pods grouped into a zone
• One or more zones controlled by
StorageManagementServer
yone management server
M SQL
ZoneZ
Pod
MySQLCloud_db
ZoneZone
Management Server Managing g g gMultiple Zones
CloudCloud Single Management
Data Center 1
CloudCloud
Data Center 2Data Center 2
Data Center 3ManagemManagem
Server can manage multiple zones
Zones can be
Zone1Zone 3
Zone 2
Zone 3
Zone 2
Data Center 3gent
Server
gent
Server
Zones can be geographically distributed but low latency links are expected for better
fZone 3Zone 4 performance
Single MS node can manage up to 10K
Data Center 2
Zone 2
Data Center 2
Zone 2
Data Center 2
g pphysical hosts.
Multiple MS nodes can be deployed as cluster for
Zone 3Zone 3
Zone 2
Zone 3
Zone 2deployed as cluster for scale or redundancy
Management Server gDeployment Architecture
Single-node Multi-node Deployment Deployment
Management
Management MySQL
User API
Load
Management
Server
Management
ServerUser API
ment Serverment
ServerMySQL
DBAdmin API
BalancerManage
ment Server
Management
Server MySQLDB
Admin API
Back UpDB
MS is stateless. MS can be deployed as physical server or
Replication
InfrastructureResources
InfrastructureResources
deployed as physical server or VM
Single MS node can manage up to 10K hosts. Multiple nodes can be deployed for scale or redundancy
Small-Scale Deployment p y
Management
192.168.10.3 192.168.10.4
SecondaryStorage
PrimaryStorage
Server
NFS ServerPublic IP
62.43.51.125 192.168.10.0/24
Layer-2SwitchRouter &
Fi ll
Internet
Firewall
Computing Nodes 192.168.10.10 to 192.168.10.13
Large-Scale Redundant DeploymentInternetInternet
Layer-3 switches with firewall modules
Layer-2 switchesy
Management Server Cluster
Computing Nodes
Primary StorageNFS/SwiftSecondary
Storage
uste
r 1
uste
r 2Primary Storage
NFS/Swift
PrimaryStorage Servers
SecondaryStorage Servers
Clu
CluPrimary Storage Primary StorageSecondary
Storage
User/API TCP Ports used by Cloudstack Components HTTP
File Share
3306
8080
8096
Cloudstack Components80
CloudStackMgmt. Server
MySQL(Master)
MySQL(Slave)
CloudStackMgmt. Server
33069090
8250
3306 80/443
3922
8250
111/2049111/2049
443
22/443
2280
Virtual Router SSVM CPVMSecondary KVMXenServervCenterRouter
Storage
Per Availability ZonePer Customer Per Pod / Cluster
Time for a „Reward“„
Universität zu KölnRRZK
Folie: 36Abteilung SystemeClaus Kalle23.09.2014
Demo in PreproductionpEnvironment @RRZK
• deploy W12KR2 and Centos6.5 Gastp y• To be continued…
Universität zu KölnRRZK
Folie: 37Abteilung SystemeClaus Kalle23.09.2014
Cloudstack technical FeaturesCloudstack technical Features
• Guest Migration („vMotion“), Guest Console• Snapshots (cold)• Templates (the >Menu<)• Multi-Hypervisor (KVM, XEN, VMWARE, HYPER-V, …)• Multistorage (primary - nfs rbd clvm Gluster• Multistorage (primary - nfs, rbd, clvm, Gluster,
secondary – nfs, smb/cifs, S3, swift), ?VSAN?• HA-feature• Firewall, Load-Balancer appliances• Private Networking (VPN)
Appliances (F5 Netscaler )• Appliances (F5, Netscaler, …)• Plugins (openvswitch, …), SDN, isolated+shared networks
Universität zu KölnRRZK
Folie: 39Abteilung SystemeClaus Kalle23.09.2014
Cloudstack marketing featuresCloudstack marketing features
• Multi-tenantMulti Hypervisor• Multi-Hypervisor
• Well documented, release process, p• API (special and Amazon campatible)
D hb d• Dashboard• Roadmaps availablep• Support available (in US and GB)
Universität zu KölnRRZK
Folie: 40Abteilung SystemeClaus Kalle23.09.2014
General CloudStack Best Practices (!)• A staging system that models the production
environment is strongly advised. It is critical if customizations have been applied to CloudStack.
• Allow adequate time for installation, Proof-of-C t (POC) d l i th d t All tConcept (POC), and learning the product. Allow at least 4-8 weeks for a POC to work through all of the integration issues It takes months to gainthe integration issues. It takes months to gain confidence with CloudStack and related technologies.g
Universität zu KölnRRZK
Folie: 41Abteilung SystemeClaus Kalle23.09.2014
Cloudstack Network PrincipleCloudstack Network Principle
Universität zu KölnRRZK
Folie: 42Abteilung SystemeClaus Kalle23.09.2014
Cloudstack NetworkingCloudstack Networking
• Basic: use ebtables to seperateguest traffic on same broadcastguest traffic on same broadcastdomain
• Advanced: use VLANs or VNIs toseperate guest trafficp g
- VLANs are rare&precious (network dept.)- VNIs are disposable good (>4096)s a e d sposab e good ( 096)- VNI Usage requires tunnels (GRE, VXLAN)
Universität zu KölnRRZK
Folie: 43Abteilung SystemeClaus Kalle23.09.2014
CS Advanced Networking gExample 1 VLAN for Guest Separation
Universität zu KölnRRZK
Folie: 44Abteilung SystemeClaus Kalle23.09.2014
CS Advanced Networking gExample 2 VLAN for Guest Separation
Universität zu KölnRRZK
Folie: 45Abteilung SystemeClaus Kalle23.09.2014
Cloudstack Software Defined Networking (SDN)Example 3 VNIs and GRE tunnel as interconnectExample 3 VNIs and GRE tunnel as interconnect
Universität zu KölnRRZK
Folie: 46Abteilung SystemeClaus Kalle23.09.2014
BreakBreak
• Life Demo: How about our guests?
Abteilung SystemeClaus Kalle23.09.2014 Universität zu Köln
RRZK
Folie: 47
KVM Host Setup for GRE TunnelKVM Host Setup for GRE Tunnel
• As of Cloudstack 4.3 (April 2014)
Gäste
Switches
I t fInterfaces
Universität zu KölnRRZK
Folie: 48Abteilung SystemeClaus Kalle23.09.2014
GRE with3 hosts• N x (N-1)
gre interfacesgre interfaces
• Automatic in Cloudstack4 4in Cloudstack4.4
Universität zu KölnRRZK
Folie: 49Abteilung SystemeClaus Kalle23.09.2014
AgendaAgenda
• CloudVMware• VMware
• OpenSource: Apache Cloudstackp p– Functions
Network-Options– Network-Options• Functional Comparison
Abteilung SystemeClaus Kalle23.09.2014 Universität zu Köln
RRZK
Folie: 53
NIST Cloud essential characteristics“NIST Cloud „essential characteristics
• On-demand self-serviceBroad network access• Broad network access
• Resource poolingp g• Rapid elasticity
M d i• Measured service
Quelle: NIST Special Publication 800-145, NIST Definition of Cloud Computing, September 2011
Abteilung SystemeClaus Kalle23.09.2014 Universität zu Köln
RRZK
Folie: 54
Funktioneller VergleichFunktioneller Vergleich*** 3 NIST-Points *** ***** 5 NIST-Points *****
VMware• vMotion
Apache Cloudstack /kvm• Life migration
3 NIST Points 5 NIST Points
• HA• Heterogene Gäste• Import exist. VLAN-Struktur
• HA• Heterogene Gäste• Import exist. VLAN-StrukturImport exist. VLAN Struktur
• Distributed vSwitch• NSX: virtual Networking
LDAP I t ti
Import exist. VLAN Struktur• Standard virt. bridge support• Openvswitch mit GRE-Tunneln
LDAP I t ti• LDAP-Integration• Templates• MISSING:
• LDAP-Integration• Templates• Self-Service Interface
easy-to-use Self-Service Funktion, Accounting
• Load-Balancer, Firewall Appliances
• AccountingAccountingAbteilung SystemeClaus Kalle23.09.2014 Universität zu Köln
RRZK
Folie: 55
Questions?Questions?
Cloudstack Logos published by Erdősi Péter <[email protected]>
Universität zu KölnRRZK
Folie: 57Abteilung SystemeClaus Kalle23.09.2014
Universität zu KölnRRZK
Folie: 58Abteilung SystemeClaus Kalle23.09.2014
Universität zu KölnRRZK
Folie: 59Abteilung SystemeClaus Kalle23.09.2014
Universität zu KölnRRZK
Folie: 60Abteilung SystemeClaus Kalle23.09.2014
Universität zu KölnRRZK
Folie: 61Abteilung SystemeClaus Kalle23.09.2014
Universität zu KölnRRZK
Folie: 62Abteilung SystemeClaus Kalle23.09.2014