expresso speedup prediction for selective compilation of embedded java programs "workshop on...

EXPRESSO

Speedup Prediction for Selective Compilation of Embedded Java Programs

"Workshop on Embedded Software, EMSOFT'02". Grenoble, October 7-9, 2002. LNCS 2491.

V. Colin de Verdiere, S. Cros, C. Fabre, R. Guider

Silicomp Research InstituteS. Yovine

Verimag

EXPRESSO

Analyse du Byte-code Java par instrumentation :

amélioration des performances par compilation sélective

Sébastien Cros

Mémoire d’Ingénieur C.N.A.M. en Informatique Grenoble, 2 juillet 2002

Travaux réalisés du 1er Février 2001 au 31 Janvier 2002 au sein de l’équipe compilation du Silicomp Research Institute, sous la direction de M. Sergio Yovine du laboratoire VERIMAG.

EXPRESSO

3

(c) Sergio Yovine - VERIMAG - [email protected]

Plan de la présentation

• Projet Expresso – Java pour l’embarqué

EXPRESSO

4


Java

GarbageCollector

Java NativeInterface

Scheduler

Data Area Thread Area

Interpreter

Operating System

JVM

EXPRESSO

5


Java embarqué

MemoryAllocation

Java NativeInterface Synthesized

Scheduler

Data Area Thread Area

Native code

Real Time Operating System

JRTS

EXPRESSO

6


Expresso

EXPRESSO

7



• Projet Expresso – Java pour l’embarqué• Génération de code natif – prédiction de l’accélération

EXPRESSO

8


Génération de code natif

« à la volée » - JIT

• Optimisations plus importantes• Conserve le code compilé.

« statique » - AOT

• Utilisation de ressourcesCPU & RAM• Recompile à chaque exécution

• Sacrifie la portabilité

• Compilation du code résident et chargé

Ava

nta

ges

Inco

nvé

nie

nts

Expansion de la taille du code compilé

EXPRESSO

9


TurboJ

• Compilateur java AOT• Du bytecode vers le code natif.• Utilisation du C comme langage intermédiaire.• Compile une fois, conserve le code compilé.• Optimisations globales.• Cohabitation du bytecode et du code natif à l’exécution

(exécution mixte).• Compilation sélective par méthode.

EXPRESSO

10


Compilation sélective

TurboJInstrumentationde l ’application

.classInformationscollectées

Exécutiontypique Analyse

Byte-codeInstrumenté

Analyse de l ’application Compilation

Applicationcompilée

Liste desméthodesà compiler

EXPRESSO

11


Hypothèses : • Accélération constante quelque soit le type de Byte-code

compilé.• Nombre de Byte-codes exécutés par une méthode reflète son

temps d ’exécution.

Technique naïve de partitionnement

Sélectionner les méthodes qui exécutent le plus grand nombre de Byte-code.

EXPRESSO

12


Sélection des méthodes triées sur le nombre de Byte-codes exécutés.

Nb

de

Byt

e-c

od

es

exé

cuté

s

méthodes1

Sélection

2 3 4

Peut-on prédire l’accélération ?

EXPRESSO

13


EXPRESSO

14



• Projet Expresso – Java pour l’embarqué• Génération de code natif• Prédiction de l’accélération

EXPRESSO

15


manipulation pile, branchement,variables (locales, d ’instances, classes),arithmétique, convertion de type

new, newarray, anewarray, multianewarray, athrow, checkcast, instanceof, moniterenter, moniterexit

Invokevirtual, invokeinterface, invokestatic, invokespecial

Type de Byte-code

« Appels de

méthodes »

Accélération

« Forte interaction avec la

machine virtuelle »

« Calcul »

Catégorie de Byte-code

importante

faible

variable

Classification du Byte-code

EXPRESSO

16


Appel croisé

Appel entre une méthode compilée et une méthode interprétée ou native.

a

b

d

Interprétée

Native

compilée

c

Appel Direct

compilée

méthode

e

Interprétée

Appel Croisé

EXPRESSO

17


Coût des appels

Méthode Appelante / Appelée

invokevirtual

invokeinterface

invokestatic

Int / Int Int / Cpl Cpl / Int Cpl / Cpl

1

1

1

0.3

0.5

0.4

0.6

0.6

0.6

5

2.5

5

Appels croisés Appels directs

invokespecial 1 0.4 0.5 5

Accélération

EXPRESSO

18


EXPRESSO

19


Modèle d ’accélération

Byte-codes exécutés

Appels croisés

Nb Byte-codes exécutés compilés

Nb appels croisésR =

EXPRESSO

20


EXPRESSO

21



• Projet Expresso – Java pour l’embarqué• Génération de code natif• Prédiction de l’accélération• Mise en œuvre

EXPRESSO

22










EXPRESSO

23


Graphe d ’appels

T.j()

C.m() D.m()A.m()

8

510

1537

EXPRESSO

24


Appels de méthodes

invokespecial et invokestatic=> Une méthode cible unique.

invokevirtual et invokeinterface=> Polymorphisme : Plusieurs cibles

potentielles.

EXPRESSO

25


public Int getId(){ return 0;}




Cibles potentielles

T.j()Invokevirtual A.toString()V

?.m()

Class A {public String m(){...}

}Class B extends A {

}Class C extends B {

public String m(){...}

}Class D extends B {

public String m(){...}

}

Invokevirtual A.getId()I

T.j()

C.m() D.m()A.m()

EXPRESSO

26


Techniques mises en œuvre

• Analyse de la hiérarchie de classes=> retrouver les cibles potentielles de chaque point d ’appels.

• Parcours du flot d ’exécution=> retrouver la référence d ’un objet sur la pile d ’opérande.

• Analyse de type intra-procédurale=> réduire le nombre de compteurs d ’appels.

EXPRESSO

27










EXPRESSO

28


Algorithme glouton

c

d e

f

a

b

c

d e

fg g

a

b

Ens. des méthodes sélectionnées

Ens. des méthodes candidates

Évaluation du ratiopour chaque candidats

Sélection du candidatmaximisant le ratio

1

10 50

1

50

5

1

10 50

1

50

5

EXPRESSO

29


EXPRESSO

30


Résultats

EXPRESSO

31


Conclusions

• Outil: 13000 lignes de Java, 80 classes– d ’instrumentation « Tprofiler » : Collecte le graphe d ’appels– Outil d ’analyse « Tselect » : Heuristique gloutonne

• Axes d’évolution :– Analyse : sélection initiale des méthodes – Modèle : raffiner la classification du Byte-code

EXPRESSO

32


expresso speedup prediction for selective compilation of embedded java programs "workshop on...

Documents

expresso page

yovine verimag page

sergio yovine

code java

code compil page

expresso analyse du

lembarqu page

lacclration page