Android系统系统升级过程分析之------update.zip包的制作
阅读原文时间:2021年04月20日阅读:1

 这篇及以后的篇幅将通过分析update.zip包在具体Android系统升级的过程,来理解Android系统中Recovery模式服务的工作原理。我们先从update.zip包的制作开始,然后是Android系统的启动模式分析,Recovery工作原理,如何从我们上层开始选择system update到重启到Recovery服务,以及在Recovery服务中具体怎样处理update.zip包升级的,我们的安装脚本updater-script怎样被解析并执行的等一系列问题。分析过程中所用的Android源码是gingerbread0919(tcc88xx开发板标配的),测试开发板是tcc88xx。这是在工作中总结的文档,当然在网上参考了不少内容,如有雷同纯属巧合吧,在分析过程中也存在很多未解决的问题,也希望大家不吝指教。

一、  update.zip包的目录结构
|----boot.img
|----system/
|----recovery/
`|----recovery-from-boot.p
`|----etc/
`|----install-recovery.sh
|---META-INF/
`|CERT.RSA
`|CERT.SF
`|MANIFEST.MF
`|----com/
`|----google/
`|----android/
`|----update-binary
`|----updater-script
`|----android/
`|----metadata
二、  update.zip包目录结构详解
以上是我们用命令make otapackage 制作的update.zip包的标准目录结构。
1、 boot.img是更新boot分区所需要的文件。这个boot.img主要包括kernel+ramdisk。

         2、system/目录的内容在升级后会放在系统的system分区。主要用来更新系统的一些应用或则应用会用到的一些库等等。可以将Android源码编译out/target/product/tcc8800/system/中的所有文件拷贝到这个目录来代替。

3、 recovery/目录中的recovery-from-boot.p是boot.img和recovery.img的补丁(patch),主要用来更新recovery分区,其中etc/目录下的install-recovery.sh是更新脚本。
4、 update-binary是一个二进制文件,相当于一个脚本解释器,能够识别updater-script中描述的操作。该文件在Android源码编译后out/target/product/tcc8800/system bin/updater生成,可将updater重命名为update-binary得到。
该文件在具体的更新包中的名字由源码中bootable/recovery/install.c中的宏ASSUMED_UPDATE_BINARY_NAME的值而定。
5、 updater-script:此文件是一个脚本文件,具体描述了更新过程。我们可以根据具体情况编写该脚本来适应我们的具体需求。该文件的命名由源码中bootable/recovery/updater/updater.c文件中的宏SCRIPT_NAME的值而定。
6、  metadata文件是描述设备信息及环境变量的元数据。主要包括一些编译选项,签名公钥,时间戳以及设备型号等。
7、 我们还可以在包中添加userdata目录,来更新系统中的用户数据部分。这部分内容在更新后会存放在系统的/data目录下。

         8、update.zip包的签名:update.zip更新包在制作完成后需要对其签名,否则在升级时会出现认证失败的错误提示。而且签名要使用和目标板一致的加密公钥。加密公钥及加密需要的三个文件在Android源码编译后生成的具体路径为:

               out/host/linux-x86/framework/signapk.jar 

               build/target/product/security/testkey.x509.pem         

               build/target/product/security/testkey.pk8 。

              我们用命令make otapackage制作生成的update.zip包是已签过名的,如果自己做update.zip包时必须手动对其签名。

具体的加密方法:$ java –jar gingerbread/out/host/linux/framework/signapk.jar –w gingerbread/build/target/product/security/testkey.x509.pem                                      gingerbread/build/target/product/security/testkey.pk8 update.zip update_signed.zip
以上命令在update.zip包所在的路径下执行,其中signapk.jar testkey.x509.pem以及testkey.pk8文件的引用使用绝对路径。update.zip 是我们已经打好的包,update_signed.zip包是命令执行完生成的已经签过名的包。
9、 MANIFEST.MF:这个manifest文件定义了与包的组成结构相关的数据。类似Android应用的mainfest.xml文件。
10、 CERT.RSA:与签名文件相关联的签名程序块文件,它存储了用于签名JAR文件的公共签名。
11、 CERT.SF:这是JAR文件的签名文件,其中前缀CERT代表签名者。
另外,在具体升级时,对update.zip包检查时大致会分三步:①检验SF文件与RSA文件是否匹配。②检验MANIFEST.MF与签名文件中的digest是否一致。③检验包中的文件与MANIFEST中所描述的是否一致。
三、  Android升级包update.zip的生成过程分析

         1) 对于update.zip包的制作有两种方式,即手动制作和命令生成。

          第一种手动制作:即按照update.zip的目录结构手动创建我们需要的目录。然后将对应的文件拷贝到相应的目录下,比如我们向系统中新加一个应用程序。可以将新增的应用拷贝到我们新建的update/system/app/下(system目录是事先拷贝编译源码后生成的system目录),打包并签名后,拷贝到SD卡就可以使用了。这种方式在实际的tcc8800开发板中未测试成功。签名部分未通过,可能与具体的开发板相关。

          第二种制作方式:命令制作。Android源码系统中为我们提供了制作update.zip刷机包的命令,即make otapackage。该命令在编译源码完成后并在源码根目录下执行。 具体操作方式:在源码根目录下执行

                ①$ . build/envsetup.sh。 

                ②$ lunch 然后选择你需要的配置(如17)。

                ③$ make otapackage。

          在编译完源码后最好再执行一遍上面的①、②步防止执行③时出现未找到对应规则的错误提示。命令执行完成后生成的升级包所在位置在out/target/product/full_tcc8800_evm_target_files-eng.mumu.20120309.111059.zip将这个包重新命名为update.zip,并拷贝到SD卡中即可使用。

           这种方式(即完全升级)在tcc8800开发板中已测试成功。

2) 使用make otapackage命令生成update.zip的过程分析。
在源码根目录下执行make otapackage命令生成update.zip包主要分为两步,第一步是根据Makefile执行编译生成一个update原包(zip格式)。第二步是运行一个python脚本,并以上一步准备的zip包作为输入,最终生成我们需要的升级包。下面进一步分析这两个过程。

            第一步:编译Makefile。对应的Makefile文件所在位置:build/core/Makefile。从该文件的884行(tcc8800,gingerbread0919)开始会生成一个zip包,这个包最后会用来制作OTA package 或者filesystem image。先将这部分的对应的Makefile贴出来如下:

[plain]  view plain copy

  1. # -----------------------------------------------------------------

  2. # A zip of the directories that map to the target filesystem.

  3. # This zip can be used to create an OTA package or filesystem image

  4. # as a post-build step.

  5. #

  6. name := $(TARGET_PRODUCT)

  7. ifeq ($(TARGET_BUILD_TYPE),debug)

  8. name := $(name)_debug

  9. endif

  10. name := $(name)-target_files-$(FILE_NAME_TAG)

  11. intermediates := $(call intermediates-dir-for,PACKAGING,target_files)

  12. BUILT_TARGET_FILES_PACKAGE := $(intermediates)/$(name).zip

  13. $(BUILT_TARGET_FILES_PACKAGE): intermediates := $(intermediates)

  14. $(BUILT_TARGET_FILES_PACKAGE): \

  15. zip_root := $(intermediates)/$(name)

  16. # $(1): Directory to copy

  17. # $(2): Location to copy it to

  18. # The "ls -A" is to prevent "acp s/* d" from failing if s is empty.

  19. define package_files-copy-root

  20. if [ -d "$(strip $(1))" -a "$$(ls -A $(1))" ]; then \

  21. mkdir -p $(2) && \

  22. $(ACP) -rd $(strip $(1))/* $(2); \

  23. fi

  24. endef

  25. built_ota_tools := \

  26. $(call intermediates-dir-for,EXECUTABLES,applypatch)/applypatch \

  27. $(call intermediates-dir-for,EXECUTABLES,applypatch_static)/applypatch_static \

  28. $(call intermediates-dir-for,EXECUTABLES,check_prereq)/check_prereq \

  29. $(call intermediates-dir-for,EXECUTABLES,updater)/updater

  30. $(BUILT_TARGET_FILES_PACKAGE): PRIVATE_OTA_TOOLS := $(built_ota_tools)

  31. $(BUILT_TARGET_FILES_PACKAGE): PRIVATE_RECOVERY_API_VERSION := $(RECOVERY_API_VERSION)

  32. ifeq ($(TARGET_RELEASETOOLS_EXTENSIONS),)

  33. # default to common dir for device vendor

  34. $(BUILT_TARGET_FILES_PACKAGE): tool_extensions := $(TARGET_DEVICE_DIR)/../common

  35. else

  36. $(BUILT_TARGET_FILES_PACKAGE): tool_extensions := $(TARGET_RELEASETOOLS_EXTENSIONS)

  37. endif

  38. # Depending on the various images guarantees that the underlying

  39. # directories are up-to-date.

  40. $(BUILT_TARGET_FILES_PACKAGE): \

  41. $(INSTALLED_BOOTIMAGE_TARGET) \

  42. $(INSTALLED_RADIOIMAGE_TARGET) \

  43. $(INSTALLED_RECOVERYIMAGE_TARGET) \

  44. $(INSTALLED_SYSTEMIMAGE) \

  45. $(INSTALLED_USERDATAIMAGE_TARGET) \

  46. $(INSTALLED_ANDROID_INFO_TXT_TARGET) \

  47. $(built_ota_tools) \

  48. $(APKCERTS_FILE) \

  49. $(HOST_OUT_EXECUTABLES)/fs_config \

  50. | $(ACP)

  51. @echo "Package target files: $@"

  52. $(hide) rm -rf $@ $(zip_root)

  53. $(hide) mkdir -p $(dir $@) $(zip_root)

  54. @# Components of the recovery image

  55. $(hide) mkdir -p $(zip_root)/RECOVERY

  56. $(hide) $(call package_files-copy-root, \

  57. $(TARGET_RECOVERY_ROOT_OUT),$(zip_root)/RECOVERY/RAMDISK)

  58. ifdef INSTALLED_KERNEL_TARGET

  59. $(hide) $(ACP) $(INSTALLED_KERNEL_TARGET) $(zip_root)/RECOVERY/kernel

  60. endif

  61. ifdef INSTALLED_2NDBOOTLOADER_TARGET

  62. $(hide) $(ACP) \

  63. $(INSTALLED_2NDBOOTLOADER_TARGET) $(zip_root)/RECOVERY/second

  64. endif

  65. ifdef BOARD_KERNEL_CMDLINE

  66. $(hide) echo "$(BOARD_KERNEL_CMDLINE)" > $(zip_root)/RECOVERY/cmdline

  67. endif

  68. ifdef BOARD_KERNEL_BASE

  69. $(hide) echo "$(BOARD_KERNEL_BASE)" > $(zip_root)/RECOVERY/base

  70. endif

  71. ifdef BOARD_KERNEL_PAGESIZE

  72. $(hide) echo "$(BOARD_KERNEL_PAGESIZE)" > $(zip_root)/RECOVERY/pagesize

  73. endif

  74. @# Components of the boot image

  75. $(hide) mkdir -p $(zip_root)/BOOT

  76. $(hide) $(call package_files-copy-root, \

  77. $(TARGET_ROOT_OUT),$(zip_root)/BOOT/RAMDISK)

  78. ifdef INSTALLED_KERNEL_TARGET

  79. $(hide) $(ACP) $(INSTALLED_KERNEL_TARGET) $(zip_root)/BOOT/kernel

  80. endif

  81. ifdef INSTALLED_2NDBOOTLOADER_TARGET

  82. $(hide) $(ACP) \

  83. $(INSTALLED_2NDBOOTLOADER_TARGET) $(zip_root)/BOOT/second

  84. endif

  85. ifdef BOARD_KERNEL_CMDLINE

  86. $(hide) echo "$(BOARD_KERNEL_CMDLINE)" > $(zip_root)/BOOT/cmdline

  87. endif

  88. ifdef BOARD_KERNEL_BASE

  89. $(hide) echo "$(BOARD_KERNEL_BASE)" > $(zip_root)/BOOT/base

  90. endif

  91. ifdef BOARD_KERNEL_PAGESIZE

  92. $(hide) echo "$(BOARD_KERNEL_PAGESIZE)" > $(zip_root)/BOOT/pagesize

  93. endif

  94. $(hide) $(foreach t,$(INSTALLED_RADIOIMAGE_TARGET),\

  95. mkdir -p $(zip_root)/RADIO; \

  96. $(ACP) $(t) $(zip_root)/RADIO/$(notdir $(t));)

  97. @# Contents of the system image

  98. $(hide) $(call package_files-copy-root, \

  99. $(SYSTEMIMAGE_SOURCE_DIR),$(zip_root)/SYSTEM)

  100. @# Contents of the data image

  101. $(hide) $(call package_files-copy-root, \

  102. $(TARGET_OUT_DATA),$(zip_root)/DATA)

  103. @# Extra contents of the OTA package

  104. $(hide) mkdir -p $(zip_root)/OTA/bin

  105. $(hide) $(ACP) $(INSTALLED_ANDROID_INFO_TXT_TARGET) $(zip_root)/OTA/

  106. $(hide) $(ACP) $(PRIVATE_OTA_TOOLS) $(zip_root)/OTA/bin/

  107. @# Files that do not end up in any images, but are necessary to

  108. @# build them.

  109. $(hide) mkdir -p $(zip_root)/META

  110. $(hide) $(ACP) $(APKCERTS_FILE) $(zip_root)/META/apkcerts.txt

  111. $(hide) echo "$(PRODUCT_OTA_PUBLIC_KEYS)" > $(zip_root)/META/otakeys.txt

  112. $(hide) echo "recovery_api_version=$(PRIVATE_RECOVERY_API_VERSION)" > $(zip_root)/META/misc_info.txt

  113. ifdef BOARD_FLASH_BLOCK_SIZE

  114. $(hide) echo "blocksize=$(BOARD_FLASH_BLOCK_SIZE)" >> $(zip_root)/META/misc_info.txt

  115. endif

  116. ifdef BOARD_BOOTIMAGE_PARTITION_SIZE

  117. $(hide) echo "boot_size=$(BOARD_BOOTIMAGE_PARTITION_SIZE)" >> $(zip_root)/META/misc_info.txt

  118. endif

  119. ifdef BOARD_RECOVERYIMAGE_PARTITION_SIZE

  120. $(hide) echo "recovery_size=$(BOARD_RECOVERYIMAGE_PARTITION_SIZE)" >> $(zip_root)/META/misc_info.txt

  121. endif

  122. ifdef BOARD_SYSTEMIMAGE_PARTITION_SIZE

  123. $(hide) echo "system_size=$(BOARD_SYSTEMIMAGE_PARTITION_SIZE)" >> $(zip_root)/META/misc_info.txt

  124. endif

  125. ifdef BOARD_USERDATAIMAGE_PARTITION_SIZE

  126. $(hide) echo "userdata_size=$(BOARD_USERDATAIMAGE_PARTITION_SIZE)" >> $(zip_root)/META/misc_info.txt

  127. endif

  128. $(hide) echo "tool_extensions=$(tool_extensions)" >> $(zip_root)/META/misc_info.txt

  129. ifdef mkyaffs2_extra_flags

  130. $(hide) echo "mkyaffs2_extra_flags=$(mkyaffs2_extra_flags)" >> $(zip_root)/META/misc_info.txt

  131. endif

  132. @# Zip everything up, preserving symlinks

  133. $(hide) (cd $(zip_root) && zip -qry ../$(notdir $@) .)

  134. @# Run fs_config on all the system files in the zip, and save the output

  135. $(hide) zipinfo -1 $@ | awk -F/ 'BEGIN { OFS="/" } /^SYSTEM\// {$$1 = "system"; print}' | $(HOST_OUT_EXECUTABLES)/fs_config > $(zip_root)/META/filesystem_config.txt

  136. $(hide) (cd $(zip_root) && zip -q ../$(notdir $@) META/filesystem_config.txt)

  137. target-files-package: $(BUILT_TARGET_FILES_PACKAGE)

  138. ifneq ($(TARGET_SIMULATOR),true)

  139. ifneq ($(TARGET_PRODUCT),sdk)

  140. ifneq ($(TARGET_DEVICE),generic)

  141. ifneq ($(TARGET_NO_KERNEL),true)

  142. ifneq ($(recovery_fstab),)

            根据上面的Makefile可以分析这个包的生成过程:

            首先创建一个root_zip根目录,并依次在此目录下创建所需要的如下其他目录

            ①创建RECOVERY目录,并填充该目录的内容,包括kernel的镜像和recovery根文件系统的镜像。此目录最终用于生成recovery.img。

②创建并填充BOOT目录。包含kernel和cmdline以及pagesize大小等,该目录最终用来生成boot.img。
③向SYSTEM目录填充system image。
④向DATA填充data image。
⑤用于生成OTA package包所需要的额外的内容。主要包括一些bin命令。
⑥创建META目录并向该目录下添加一些文本文件,如apkcerts.txt(描述apk文件用到的认证证书),misc_info.txt(描述Flash内存的块大小以及boot、recovery、system、userdata等分区的大小信息)。
⑦使用保留连接选项压缩我们在上面获得的root_zip目录。
⑧使用fs_config(build/tools/fs_config)配置上面的zip包内所有的系统文件(system/下各目录、文件)的权限属主等信息。fs_config包含了一个头文件#include“private/android_filesystem_config.h”。在这个头文件中以硬编码的方式设定了system目录下各文件的权限、属主。执行完配置后会将配置后的信息以文本方式输出 到META/filesystem_config.txt中。并再一次zip压缩成我们最终需要的原始包。

             第二步:上面的zip包只是一个编译过程中生成的原始包。这个原始zip包在实际的编译过程中有两个作用,一是用来生成OTA update升级包,二是用来生成系统镜像。在编译过程中若生成OTA update升级包时会调用(具体位置在Makefile的1037行到1058行)一个名为ota_from_target_files的python脚本,位置在/build/tools/releasetools/ota_from_target_files。这个脚本的作用是以第一步生成的zip原始包作为输入,最终生成可用的OTA升级zip包。

             下面我们分析使用这个脚本生成最终OTA升级包的过程。

                   ㈠ 首先看一下这个脚本开始部分的帮助文档。代码如下:

[python]  view plain copy

  1. #!/usr/bin/env python

  2. #

  3. # Copyright (C) 2008 The Android Open Source Project

  4. #

  5. # Licensed under the Apache License, Version 2.0 (the "License");

  6. # you may not use this file except in compliance with the License.

  7. # You may obtain a copy of the License at

  8. #

  9. #      http://www.apache.org/licenses/LICENSE-2.0

  10. #

  11. # Unless required by applicable law or agreed to in writing, software

  12. # distributed under the License is distributed on an "AS IS" BASIS,

  13. # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.

  14. # See the License for the specific language governing permissions and

  15. # limitations under the License.

  16. """

  17. Given a target-files zipfile, produces an OTA package that installs

  18. that build.  An incremental OTA is produced if -i is given, otherwise

  19. a full OTA is produced.

  20. Usage:  ota_from_target_files [flags] input_target_files output_ota_package

  21. -b  (--board_config)  

  22. Deprecated.

  23. -k  (--package_key)  

  24. Key to use to sign the package (default is

  25. "build/target/product/security/testkey").

  26. -i  (--incremental_from)  

  27. Generate an incremental OTA using the given target-files zip as

  28. the starting build.

  29. -w  (--wipe_user_data)

  30. Generate an OTA package that will wipe the user data partition

  31. when installed.

  32. -n  (--no_prereq)

  33. Omit the timestamp prereq check normally included at the top of

  34. the build scripts (used for developer OTA packages which

  35. legitimately need to go back and forth).

  36. -e  (--extra_script)  

  37. Insert the contents of file at the end of the update script.

  38. """

                        下面简单翻译一下他们的使用方法以及选项的作用。

Usage: ota_from_target_files [flags] input_target_files output_ota_package
-b 过时的。
-k签名所使用的密钥
-i生成增量OTA包时使用此选项。后面我们会用到这个选项来生成OTA增量包。
-w是否清除userdata分区
-n在升级时是否不检查时间戳,缺省要检查,即缺省情况下只能基于旧版本升级。
-e是否有额外运行的脚本
-m执行过程中生成脚本(updater-script)所需要的格式,目前有两种即amend和edify。对应上两种版本升级时会采用不同的解释器。缺省会同时生成两种格式的脚 本。
-p定义脚本用到的一些可执行文件的路径。
-s定义额外运行脚本的路径。
-x定义额外运行的脚本可能用的键值对。
-v执行过程中打印出执行的命令。
-h命令帮助

                   ㈡ 下面我们分析ota_from_target_files这个python脚本是怎样生成最终zip包的。先讲这个脚本的代码贴出来如下:

[python]  view plain copy

  1. import sys

  2. if sys.hexversion < 0x02040000:

  3. print >> sys.stderr, "Python 2.4 or newer is required."

  4. sys.exit(1)

  5. import copy

  6. import errno

  7. import os

  8. import re

  9. import sha

  10. import subprocess

  11. import tempfile

  12. import time

  13. import zipfile

  14. import common

  15. import edify_generator

  16. OPTIONS = common.OPTIONS

  17. OPTIONS.package_key = "build/target/product/security/testkey"

  18. OPTIONS.incremental_source = None

  19. OPTIONS.require_verbatim = set()

  20. OPTIONS.prohibit_verbatim = set(("system/build.prop",))

  21. OPTIONS.patch_threshold = 0.95

  22. OPTIONS.wipe_user_data = False

  23. OPTIONS.omit_prereq = False

  24. OPTIONS.extra_script = None

  25. OPTIONS.worker_threads = 3

  26. def MostPopularKey(d, default):

  27. """Given a dict, return the key corresponding to the largest

  28. value.  Returns 'default' if the dict is empty."""

  29. x = [(v, k) for (k, v) in d.iteritems()]

  30. if not x: return default

  31. x.sort()

  32. return x[-1][1]

  33. def IsSymlink(info):

  34. """Return true if the zipfile.ZipInfo object passed in represents a

  35. symlink."""

  36. return (info.external_attr >> 16) == 0120777

  37. class Item:

  38. """Items represent the metadata (user, group, mode) of files and

  39. directories in the system image."""

  40. ITEMS = {}

  41. def __init__(self, name, dir=False):

  42. self.name = name

  43. self.uid = None

  44. self.gid = None

  45. self.mode = None

  46. self.dir = dir

  47. if name:

  48. self.parent = Item.Get(os.path.dirname(name), dir=True)

  49. self.parent.children.append(self)

  50. else:

  51. self.parent = None

  52. if dir:

  53. self.children = []

  54. def Dump(self, indent=0):

  55. if self.uid is not None:

  56. print "%s%s %d %d %o" % ("  "*indent, self.name, self.uid, self.gid, self.mode)

  57. else:

  58. print "%s%s %s %s %s" % ("  "*indent, self.name, self.uid, self.gid, self.mode)

  59. if self.dir:

  60. print "%s%s" % ("  "*indent, self.descendants)

  61. print "%s%s" % ("  "*indent, self.best_subtree)

  62. for i in self.children:

  63. i.Dump(indent=indent+1)

  64. @classmethod

  65. def Get(cls, name, dir=False):

  66. if name not in cls.ITEMS:

  67. cls.ITEMS[name] = Item(name, dir=dir)

  68. return cls.ITEMS[name]

  69. @classmethod

  70. def GetMetadata(cls, input_zip):

  71. try:

  72. # See if the target_files contains a record of what the uid,

  73. # gid, and mode is supposed to be.

  74. output = input_zip.read("META/filesystem_config.txt")

  75. except KeyError:

  76. # Run the external 'fs_config' program to determine the desired

  77. # uid, gid, and mode for every Item object.  Note this uses the

  78. # one in the client now, which might not be the same as the one

  79. # used when this target_files was built.

  80. p = common.Run(["fs_config"], stdin=subprocess.PIPE,

  81. stdout=subprocess.PIPE, stderr=subprocess.PIPE)

  82. suffix = { False: "", True: "/" }

  83. input = "".join(["%s%s\n" % (i.name, suffix[i.dir])

  84. for i in cls.ITEMS.itervalues() if i.name])

  85. output, error = p.communicate(input)

  86. assert not error

  87. for line in output.split("\n"):

  88. if not line: continue

  89. name, uid, gid, mode = line.split()

  90. i = cls.ITEMS.get(name, None)

  91. if i is not None:

  92. i.uid = int(uid)

  93. i.gid = int(gid)

  94. i.mode = int(mode, 8)

  95. if i.dir:

  96. i.children.sort(key=lambda i: i.name)

  97. # set metadata for the files generated by this script.

  98. i = cls.ITEMS.get("system/recovery-from-boot.p", None)

  99. if i: i.uid, i.gid, i.mode = 0, 0, 0644

  100. i = cls.ITEMS.get("system/etc/install-recovery.sh", None)

  101. if i: i.uid, i.gid, i.mode = 0, 0, 0544

  102. def CountChildMetadata(self):

  103. """Count up the (uid, gid, mode) tuples for all children and

  104. determine the best strategy for using set_perm_recursive and

  105. set_perm to correctly chown/chmod all the files to their desired

  106. values.  Recursively calls itself for all descendants.

  107. Returns a dict of {(uid, gid, dmode, fmode): count} counting up

  108. all descendants of this node.  (dmode or fmode may be None.)  Also

  109. sets the best_subtree of each directory Item to the (uid, gid,

  110. dmode, fmode) tuple that will match the most descendants of that

  111. Item.

  112. """

  113. assert self.dir

  114. d = self.descendants = {(self.uid, self.gid, self.mode, None): 1}

  115. for i in self.children:

  116. if i.dir:

  117. for k, v in i.CountChildMetadata().iteritems():

  118. d[k] = d.get(k, 0) + v

  119. else:

  120. k = (i.uid, i.gid, None, i.mode)

  121. d[k] = d.get(k, 0) + 1

  122. # Find the (uid, gid, dmode, fmode) tuple that matches the most

  123. # descendants.

  124. # First, find the (uid, gid) pair that matches the most

  125. # descendants.

  126. ug = {}

  127. for (uid, gid, _, _), count in d.iteritems():

  128. ug[(uid, gid)] = ug.get((uid, gid), 0) + count

  129. ug = MostPopularKey(ug, (0, 0))

  130. # Now find the dmode and fmode that match the most descendants

  131. # with that (uid, gid), and choose those.

  132. best_dmode = (0, 0755)

  133. best_fmode = (0, 0644)

  134. for k, count in d.iteritems():

  135. if k[:2] != ug: continue

  136. if k[2] is not None and count >= best_dmode[0]: best_dmode = (count, k[2])

  137. if k[3] is not None and count >= best_fmode[0]: best_fmode = (count, k[3])

  138. self.best_subtree = ug + (best_dmode[1], best_fmode[1])

  139. return d

  140. def SetPermissions(self, script):

  141. """Append set_perm/set_perm_recursive commands to 'script' to

  142. set all permissions, users, and groups for the tree of files

  143. rooted at 'self'."""

  144. self.CountChildMetadata()

  145. def recurse(item, current):

  146. # current is the (uid, gid, dmode, fmode) tuple that the current

  147. # item (and all its children) have already been set to.  We only

  148. # need to issue set_perm/set_perm_recursive commands if we're

  149. # supposed to be something different.

  150. if item.dir:

  151. if current != item.best_subtree:

  152. script.SetPermissionsRecursive("/"+item.name, *item.best_subtree)

  153. current = item.best_subtree

  154. if item.uid != current[0] or item.gid != current[1] or \

  155. item.mode != current[2]:

  156. script.SetPermissions("/"+item.name, item.uid, item.gid, item.mode)

  157. for i in item.children:

  158. recurse(i, current)

  159. else:

  160. if item.uid != current[0] or item.gid != current[1] or \

  161. item.mode != current[3]:

  162. script.SetPermissions("/"+item.name, item.uid, item.gid, item.mode)

  163. recurse(self, (-1, -1, -1, -1))

  164. def CopySystemFiles(input_zip, output_zip=None,

  165. substitute=None):

  166. """Copies files underneath system/ in the input zip to the output

  167. zip.  Populates the Item class with their metadata, and returns a

  168. list of symlinks.  output_zip may be None, in which case the copy is

  169. skipped (but the other side effects still happen).  substitute is an

  170. optional dict of {output filename: contents} to be output instead of

  171. certain input files.

  172. """

  173. symlinks = []

  174. for info in input_zip.infolist():

  175. if info.filename.startswith("SYSTEM/"):

  176. basefilename = info.filename[7:]

  177. if IsSymlink(info):

  178. symlinks.append((input_zip.read(info.filename),

  179. "/system/" + basefilename))

  180. else:

  181. info2 = copy.copy(info)

  182. fn = info2.filename = "system/" + basefilename

  183. if substitute and fn in substitute and substitute[fn] is None:

  184. continue

  185. if output_zip is not None:

  186. if substitute and fn in substitute:

  187. data = substitute[fn]

  188. else:

  189. data = input_zip.read(info.filename)

  190. output_zip.writestr(info2, data)

  191. if fn.endswith("/"):

  192. Item.Get(fn[:-1], dir=True)

  193. else:

  194. Item.Get(fn, dir=False)

  195. symlinks.sort()

  196. return symlinks

  197. def SignOutput(temp_zip_name, output_zip_name):

  198. key_passwords = common.GetKeyPasswords([OPTIONS.package_key])

  199. pw = key_passwords[OPTIONS.package_key]

  200. common.SignFile(temp_zip_name, output_zip_name, OPTIONS.package_key, pw,

  201. whole_file=True)

  202. def AppendAssertions(script, input_zip):

  203. device = GetBuildProp("ro.product.device", input_zip)

  204. script.AssertDevice(device)

  205. def MakeRecoveryPatch(output_zip, recovery_img, boot_img):

  206. """Generate a binary patch that creates the recovery image starting

  207. with the boot image.  (Most of the space in these images is just the

  208. kernel, which is identical for the two, so the resulting patch

  209. should be efficient.)  Add it to the output zip, along with a shell

  210. script that is run from init.rc on first boot to actually do the

  211. patching and install the new recovery image.

  212. recovery_img and boot_img should be File objects for the

  213. corresponding images.

  214. Returns an Item for the shell script, which must be made

  215. executable.

  216. """

  217. d = common.Difference(recovery_img, boot_img)

  218. _, _, patch = d.ComputePatch()

  219. common.ZipWriteStr(output_zip, "recovery/recovery-from-boot.p", patch)

  220. Item.Get("system/recovery-from-boot.p", dir=False)

  221. boot_type, boot_device = common.GetTypeAndDevice("/boot", OPTIONS.info_dict)

  222. recovery_type, recovery_device = common.GetTypeAndDevice("/recovery", OPTIONS.info_dict)

  223. # Images with different content will have a different first page, so

  224. # we check to see if this recovery has already been installed by

  225. # testing just the first 2k.

  226. HEADER_SIZE = 2048

  227. header_sha1 = sha.sha(recovery_img.data[:HEADER_SIZE]).hexdigest()

  228. sh = """#!/system/bin/sh

  229. if ! applypatch -c %(recovery_type)s:%(recovery_device)s:%(header_size)d:%(header_sha1)s; then

  230. log -t recovery "Installing new recovery image"

  231. applypatch %(boot_type)s:%(boot_device)s:%(boot_size)d:%(boot_sha1)s %(recovery_type)s:%(recovery_device)s %(recovery_sha1)s %(recovery_size)d %(boot_sha1)s:/system/recovery-from-boot.p

  232. else

  233. log -t recovery "Recovery image already installed"

  234. fi

  235. """ % { 'boot_size': boot_img.size,

  236. 'boot_sha1': boot_img.sha1,

  237. 'header_size': HEADER_SIZE,

  238. 'header_sha1': header_sha1,

  239. 'recovery_size': recovery_img.size,

  240. 'recovery_sha1': recovery_img.sha1,

  241. 'boot_type': boot_type,

  242. 'boot_device': boot_device,

  243. 'recovery_type': recovery_type,

  244. 'recovery_device': recovery_device,

  245. }

  246. common.ZipWriteStr(output_zip, "recovery/etc/install-recovery.sh", sh)

  247. return Item.Get("system/etc/install-recovery.sh", dir=False)

  248. def WriteFullOTAPackage(input_zip, output_zip):

  249. # TODO: how to determine this?  We don't know what version it will

  250. # be installed on top of.  For now, we expect the API just won't

  251. # change very often.

  252. script = edify_generator.EdifyGenerator(3, OPTIONS.info_dict)

  253. metadata = {"post-build": GetBuildProp("ro.build.fingerprint", input_zip),

  254. "pre-device": GetBuildProp("ro.product.device", input_zip),

  255. "post-timestamp": GetBuildProp("ro.build.date.utc", input_zip),

  256. }

  257. device_specific = common.DeviceSpecificParams(

  258. input_zip=input_zip,

  259. input_version=OPTIONS.info_dict["recovery_api_version"],

  260. output_zip=output_zip,

  261. script=script,

  262. input_tmp=OPTIONS.input_tmp,

  263. metadata=metadata,

  264. info_dict=OPTIONS.info_dict)

  265. if not OPTIONS.omit_prereq:

  266. ts = GetBuildProp("ro.build.date.utc", input_zip)

  267. script.AssertOlderBuild(ts)

  268. AppendAssertions(script, input_zip)

  269. device_specific.FullOTA_Assertions()

  270. script.ShowProgress(0.5, 0)

  271. if OPTIONS.wipe_user_data:

  272. script.FormatPartition("/data")

  273. script.FormatPartition("/system")

  274. script.Mount("/system")

  275. script.UnpackPackageDir("recovery", "/system")

  276. script.UnpackPackageDir("system", "/system")

  277. symlinks = CopySystemFiles(input_zip, output_zip)

  278. script.MakeSymlinks(symlinks)

  279. boot_img = common.File("boot.img", common.BuildBootableImage(

  280. os.path.join(OPTIONS.input_tmp, "BOOT")))

  281. recovery_img = common.File("recovery.img", common.BuildBootableImage(

  282. os.path.join(OPTIONS.input_tmp, "RECOVERY")))

  283. MakeRecoveryPatch(output_zip, recovery_img, boot_img)

  284. Item.GetMetadata(input_zip)

  285. Item.Get("system").SetPermissions(script)

  286. common.CheckSize(boot_img.data, "boot.img", OPTIONS.info_dict)

  287. common.ZipWriteStr(output_zip, "boot.img", boot_img.data)

  288. script.ShowProgress(0.2, 0)

  289. script.ShowProgress(0.2, 10)

  290. script.WriteRawImage("/boot", "boot.img")

  291. script.ShowProgress(0.1, 0)

  292. device_specific.FullOTA_InstallEnd()

  293. if OPTIONS.extra_script is not None:

  294. script.AppendExtra(OPTIONS.extra_script)

  295. script.UnmountAll()

  296. script.AddToZip(input_zip, output_zip)

  297. WriteMetadata(metadata, output_zip)

  298. def WriteMetadata(metadata, output_zip):

  299. common.ZipWriteStr(output_zip, "META-INF/com/android/metadata",

  300. "".join(["%s=%s\n" % kv

  301. for kv in sorted(metadata.iteritems())]))

  302. def LoadSystemFiles(z):

  303. """Load all the files from SYSTEM/… in a given target-files

  304. ZipFile, and return a dict of {filename: File object}."""

  305. out = {}

  306. for info in z.infolist():

  307. if info.filename.startswith("SYSTEM/") and not IsSymlink(info):

  308. fn = "system/" + info.filename[7:]

  309. data = z.read(info.filename)

  310. out[fn] = common.File(fn, data)

  311. return out

  312. def GetBuildProp(property, z):

  313. """Return the fingerprint of the build of a given target-files

  314. ZipFile object."""

  315. bp = z.read("SYSTEM/build.prop")

  316. if not property:

  317. return bp

  318. m = re.search(re.escape(property) + r"=(.*)\n", bp)

  319. if not m:

  320. raise common.ExternalError("couldn't find %s in build.prop" % (property,))

  321. return m.group(1).strip()

  322. def WriteIncrementalOTAPackage(target_zip, source_zip, output_zip):

  323. source_version = OPTIONS.source_info_dict["recovery_api_version"]

  324. target_version = OPTIONS.target_info_dict["recovery_api_version"]

  325. if source_version == 0:

  326. print ("WARNING: generating edify script for a source that "

  327. "can't install it.")

  328. script = edify_generator.EdifyGenerator(source_version, OPTIONS.info_dict)

  329. metadata = {"pre-device": GetBuildProp("ro.product.device", source_zip),

  330. "post-timestamp": GetBuildProp("ro.build.date.utc", target_zip),

  331. }

  332. device_specific = common.DeviceSpecificParams(

  333. source_zip=source_zip,

  334. source_version=source_version,

  335. target_zip=target_zip,

  336. target_version=target_version,

  337. output_zip=output_zip,

  338. script=script,

  339. metadata=metadata,

  340. info_dict=OPTIONS.info_dict)

  341. print "Loading target…"

  342. target_data = LoadSystemFiles(target_zip)

  343. print "Loading source…"

  344. source_data = LoadSystemFiles(source_zip)

  345. verbatim_targets = []

  346. patch_list = []

  347. diffs = []

  348. largest_source_size = 0

  349. for fn in sorted(target_data.keys()):

  350. tf = target_data[fn]

  351. assert fn == tf.name

  352. sf = source_data.get(fn, None)

  353. if sf is None or fn in OPTIONS.require_verbatim:

  354. # This file should be included verbatim

  355. if fn in OPTIONS.prohibit_verbatim:

  356. raise common.ExternalError("\"%s\" must be sent verbatim" % (fn,))

  357. print "send", fn, "verbatim"

  358. tf.AddToZip(output_zip)

  359. verbatim_targets.append((fn, tf.size))

  360. elif tf.sha1 != sf.sha1:

  361. # File is different; consider sending as a patch

  362. diffs.append(common.Difference(tf, sf))

  363. else:

  364. # Target file identical to source.

  365. pass

  366. common.ComputeDifferences(diffs)

  367. for diff in diffs:

  368. tf, sf, d = diff.GetPatch()

  369. if d is None or len(d) > tf.size * OPTIONS.patch_threshold:

  370. # patch is almost as big as the file; don't bother patching

  371. tf.AddToZip(output_zip)

  372. verbatim_targets.append((tf.name, tf.size))

  373. else:

  374. common.ZipWriteStr(output_zip, "patch/" + tf.name + ".p", d)

  375. patch_list.append((tf.name, tf, sf, tf.size, sha.sha(d).hexdigest()))

  376. largest_source_size = max(largest_source_size, sf.size)

  377. source_fp = GetBuildProp("ro.build.fingerprint", source_zip)

  378. target_fp = GetBuildProp("ro.build.fingerprint", target_zip)

  379. metadata["pre-build"] = source_fp

  380. metadata["post-build"] = target_fp

  381. script.Mount("/system")

  382. script.AssertSomeFingerprint(source_fp, target_fp)

  383. source_boot = common.File("/tmp/boot.img",

  384. common.BuildBootableImage(

  385. os.path.join(OPTIONS.source_tmp, "BOOT")))

  386. target_boot = common.File("/tmp/boot.img",

  387. common.BuildBootableImage(

  388. os.path.join(OPTIONS.target_tmp, "BOOT")))

  389. updating_boot = (source_boot.data != target_boot.data)

  390. source_recovery = common.File("system/recovery.img",

  391. common.BuildBootableImage(

  392. os.path.join(OPTIONS.source_tmp, "RECOVERY")))

  393. target_recovery = common.File("system/recovery.img",

  394. common.BuildBootableImage(

  395. os.path.join(OPTIONS.target_tmp, "RECOVERY")))

  396. updating_recovery = (source_recovery.data != target_recovery.data)

  397. # Here's how we divide up the progress bar:

  398. #  0.1 for verifying the start state (PatchCheck calls)

  399. #  0.8 for applying patches (ApplyPatch calls)

  400. #  0.1 for unpacking verbatim files, symlinking, and doing the

  401. #      device-specific commands.

  402. AppendAssertions(script, target_zip)

  403. device_specific.IncrementalOTA_Assertions()

  404. script.Print("Verifying current system…")

  405. script.ShowProgress(0.1, 0)

  406. total_verify_size = float(sum([i[2].size for i in patch_list]) + 1)

  407. if updating_boot:

  408. total_verify_size += source_boot.size

  409. so_far = 0

  410. for fn, tf, sf, size, patch_sha in patch_list:

  411. script.PatchCheck("/"+fn, tf.sha1, sf.sha1)

  412. so_far += sf.size

  413. script.SetProgress(so_far / total_verify_size)

  414. if updating_boot:

  415. d = common.Difference(target_boot, source_boot)

  416. _, _, d = d.ComputePatch()

  417. print "boot      target: %d  source: %d  diff: %d" % (

  418. target_boot.size, source_boot.size, len(d))

  419. common.ZipWriteStr(output_zip, "patch/boot.img.p", d)

  420. boot_type, boot_device = common.GetTypeAndDevice("/boot", OPTIONS.info_dict)

  421. script.PatchCheck("%s:%s:%d:%s:%d:%s" %

  422. (boot_type, boot_device,

  423. source_boot.size, source_boot.sha1,

  424. target_boot.size, target_boot.sha1))

  425. so_far += source_boot.size

  426. script.SetProgress(so_far / total_verify_size)

  427. if patch_list or updating_recovery or updating_boot:

  428. script.CacheFreeSpaceCheck(largest_source_size)

  429. device_specific.IncrementalOTA_VerifyEnd()

  430. script.Comment("---- start making changes here ----")

  431. if OPTIONS.wipe_user_data:

  432. script.Print("Erasing user data…")

  433. script.FormatPartition("/data")

  434. script.Print("Removing unneeded files…")

  435. script.DeleteFiles(["/"+i[0] for i in verbatim_targets] +

  436. ["/"+i for i in sorted(source_data)

  437. if i not in target_data] +

  438. ["/system/recovery.img"])

  439. script.ShowProgress(0.8, 0)

  440. total_patch_size = float(sum([i[1].size for i in patch_list]) + 1)

  441. if updating_boot:

  442. total_patch_size += target_boot.size

  443. so_far = 0

  444. script.Print("Patching system files…")

  445. for fn, tf, sf, size, _ in patch_list:

  446. script.ApplyPatch("/"+fn, "-", tf.size, tf.sha1, sf.sha1, "patch/"+fn+".p")

  447. so_far += tf.size

  448. script.SetProgress(so_far / total_patch_size)

  449. if updating_boot:

  450. # Produce the boot image by applying a patch to the current

  451. # contents of the boot partition, and write it back to the

  452. # partition.

  453. script.Print("Patching boot image…")

  454. script.ApplyPatch("%s:%s:%d:%s:%d:%s"

  455. % (boot_type, boot_device,

  456. source_boot.size, source_boot.sha1,

  457. target_boot.size, target_boot.sha1),

  458. "-",

  459. target_boot.size, target_boot.sha1,

  460. source_boot.sha1, "patch/boot.img.p")

  461. so_far += target_boot.size

  462. script.SetProgress(so_far / total_patch_size)

  463. print "boot image changed; including."

  464. else:

  465. print "boot image unchanged; skipping."

  466. if updating_recovery:

  467. # Is it better to generate recovery as a patch from the current

  468. # boot image, or from the previous recovery image?  For large

  469. # updates with significant kernel changes, probably the former.

  470. # For small updates where the kernel hasn't changed, almost

  471. # certainly the latter.  We pick the first option.  Future

  472. # complicated schemes may let us effectively use both.

  473. #

  474. # A wacky possibility: as long as there is room in the boot

  475. # partition, include the binaries and image files from recovery in

  476. # the boot image (though not in the ramdisk) so they can be used

  477. # as fodder for constructing the recovery image.

  478. MakeRecoveryPatch(output_zip, target_recovery, target_boot)

  479. script.DeleteFiles(["/system/recovery-from-boot.p",

  480. "/system/etc/install-recovery.sh"])

  481. print "recovery image changed; including as patch from boot."

  482. else:

  483. print "recovery image unchanged; skipping."

  484. script.ShowProgress(0.1, 10)

  485. target_symlinks = CopySystemFiles(target_zip, None)

  486. target_symlinks_d = dict([(i[1], i[0]) for i in target_symlinks])

  487. temp_script = script.MakeTemporary()

  488. Item.GetMetadata(target_zip)

  489. Item.Get("system").SetPermissions(temp_script)

  490. # Note that this call will mess up the tree of Items, so make sure

  491. # we're done with it.

  492. source_symlinks = CopySystemFiles(source_zip, None)

  493. source_symlinks_d = dict([(i[1], i[0]) for i in source_symlinks])

  494. # Delete all the symlinks in source that aren't in target.  This

  495. # needs to happen before verbatim files are unpacked, in case a

  496. # symlink in the source is replaced by a real file in the target.

  497. to_delete = []

  498. for dest, link in source_symlinks:

  499. if link not in target_symlinks_d:

  500. to_delete.append(link)

  501. script.DeleteFiles(to_delete)

  502. if verbatim_targets:

  503. script.Print("Unpacking new files…")

  504. script.UnpackPackageDir("system", "/system")

  505. if updating_recovery:

  506. script.Print("Unpacking new recovery…")

  507. script.UnpackPackageDir("recovery", "/system")

  508. script.Print("Symlinks and permissions…")

  509. # Create all the symlinks that don't already exist, or point to

  510. # somewhere different than what we want.  Delete each symlink before

  511. # creating it, since the 'symlink' command won't overwrite.

  512. to_create = []

  513. for dest, link in target_symlinks:

  514. if link in source_symlinks_d:

  515. if dest != source_symlinks_d[link]:

  516. to_create.append((dest, link))

  517. else:

  518. to_create.append((dest, link))

  519. script.DeleteFiles([i[1] for i in to_create])

  520. script.MakeSymlinks(to_create)

  521. # Now that the symlinks are created, we can set all the

  522. # permissions.

  523. script.AppendScript(temp_script)

  524. # Do device-specific installation (eg, write radio image).

  525. device_specific.IncrementalOTA_InstallEnd()

  526. if OPTIONS.extra_script is not None:

  527. scirpt.AppendExtra(OPTIONS.extra_script)

  528. script.AddToZip(target_zip, output_zip)

  529. WriteMetadata(metadata, output_zip)

  530. def main(argv):

  531. def option_handler(o, a):

  532. if o in ("-b", "--board_config"):

  533. pass # deprecated

  534. elif o in ("-k", "--package_key"):

  535. OPTIONS.package_key = a

  536. elif o in ("-i", "--incremental_from"):

  537. OPTIONS.incremental_source = a

  538. elif o in ("-w", "--wipe_user_data"):

  539. OPTIONS.wipe_user_data = True

  540. elif o in ("-n", "--no_prereq"):

  541. OPTIONS.omit_prereq = True

  542. elif o in ("-e", "--extra_script"):

  543. OPTIONS.extra_script = a

  544. elif o in ("--worker_threads"):

  545. OPTIONS.worker_threads = int(a)

  546. else:

  547. return False

  548. return True

  549. args = common.ParseOptions(argv, __doc__,

  550. extra_opts="b:k:i:d:wne:",

  551. extra_long_opts=["board_config=",

  552. "package_key=",

  553. "incremental_from=",

  554. "wipe_user_data",

  555. "no_prereq",

  556. "extra_script=",

  557. "worker_threads="],

  558. extra_option_handler=option_handler)

  559. if len(args) != 2:

  560. common.Usage(__doc__)

  561. sys.exit(1)

  562. if OPTIONS.extra_script is not None:

  563. OPTIONS.extra_script = open(OPTIONS.extra_script).read()

  564. print "unzipping target target-files…"

  565. OPTIONS.input_tmp = common.UnzipTemp(args[0])

  566. OPTIONS.target_tmp = OPTIONS.input_tmp

  567. input_zip = zipfile.ZipFile(args[0], "r")

  568. OPTIONS.info_dict = common.LoadInfoDict(input_zip)

  569. if OPTIONS.verbose:

  570. print "--- target info ---"

  571. common.DumpInfoDict(OPTIONS.info_dict)

  572. if OPTIONS.device_specific is None:

  573. OPTIONS.device_specific = OPTIONS.info_dict.get("tool_extensions", None)

  574. if OPTIONS.device_specific is not None:

  575. OPTIONS.device_specific = os.path.normpath(OPTIONS.device_specific)

  576. print "using device-specific extensions in", OPTIONS.device_specific

  577. if OPTIONS.package_key:

  578. temp_zip_file = tempfile.NamedTemporaryFile()

  579. output_zip = zipfile.ZipFile(temp_zip_file, "w",

  580. compression=zipfile.ZIP_DEFLATED)

  581. else:

  582. output_zip = zipfile.ZipFile(args[1], "w",

  583. compression=zipfile.ZIP_DEFLATED)

  584. if OPTIONS.incremental_source is None:

  585. WriteFullOTAPackage(input_zip, output_zip)

  586. else:

  587. print "unzipping source target-files…"

  588. OPTIONS.source_tmp = common.UnzipTemp(OPTIONS.incremental_source)

  589. source_zip = zipfile.ZipFile(OPTIONS.incremental_source, "r")

  590. OPTIONS.target_info_dict = OPTIONS.info_dict

  591. OPTIONS.source_info_dict = common.LoadInfoDict(source_zip)

  592. if OPTIONS.verbose:

  593. print "--- source info ---"

  594. common.DumpInfoDict(OPTIONS.source_info_dict)

  595. WriteIncrementalOTAPackage(input_zip, source_zip, output_zip)

  596. output_zip.close()

  597. if OPTIONS.package_key:

  598. SignOutput(temp_zip_file.name, args[1])

  599. temp_zip_file.close()

  600. common.Cleanup()

  601. print "done."

  602. if __name__ == '__main__':

  603. try:

  604. common.CloseInheritedPipes()

  605. main(sys.argv[1:])

  606. except common.ExternalError, e:

  607. print

  608. print "   ERROR: %s" % (e,)

  609. print

  610. sys.exit(1)

                       主函数main是python的入口函数,我们从main函数开始看,大概看一下main函数(脚本最后)里的流程就能知道脚本的执行过程了。

① 在main函数的开头,首先将用户设定的option选项存入OPTIONS变量中,它是一个python中的类。紧接着判断有没有额外的脚本,如果有就读入到OPTIONS变量中。
② 解压缩输入的zip包,即我们在上文生成的原始zip包。然后判断是否用到device-specific extensions(设备扩展)如果用到,随即读入到OPTIONS变量中。
③ 判断是否签名,然后判断是否有新内容的增量源,有的话就解压该增量源包放入一个临时变量中(source_zip)。自此,所有的准备工作已完毕,随即会调用该 脚本中最主要的函数WriteFullOTAPackage(input_zip,output_zip)
④ WriteFullOTAPackage函数的处理过程是先获得脚本的生成器。默认格式是edify。然后获得metadata元数据,此数据来至于Android的一些环境变量。然后获得设备配置参数比如api函数的版本。然后判断是否忽略时间戳。
⑤ WriteFullOTAPackage函数做完准备工作后就开始生成升级用的脚本文件(updater-script)了。生成脚本文件后将上一步获得的metadata元数据写入到输出包out_zip。
⑥至此一个完整的update.zip升级包就生成了。生成位置在:out/target/product/tcc8800/full_tcc8800_evm-ota-eng.mumu.20120315.155326.zip。将升级包拷贝到SD卡中就可以用来升级了。
四、  Android OTA增量包update.zip的生成

         在上面的过程中生成的update.zip升级包是全部系统的升级包。大小有80M多。这对手机用户来说,用来升级的流量是很大的。而且在实际升级中,我们只希望能够升级我们改变的那部分内容。这就需要使用增量包来升级。生成增量包的过程也需要上文中提到的ota_from_target_files.py的参与。

         下面是制作update.zip增量包的过程。

① 在源码根目录下依次执行下列命令
$ . build/envsetup.sh
$ lunch 选择17
$ make
$ make otapackage
执行上面的命令后会在out/target/product/tcc8800/下生成我们第一个系统升级包。我们先将其命名为A.zip
② 在源码中修改我们需要改变的部分,比如修改内核配置,增加新的驱动等等。修改后再一次执行上面的命令。就会生成第二个我们修改后生成的update.zip升级包。将  其命名为B.zip。

          ③ 在上文中我们看了ota_from_target_files.py脚本的使用帮助,其中选项-i就是用来生成差分增量包的。使用方法是以上面的A.zip 和B.zip包作为输入,以update.zip包作  为输出。生成的update.zip就是我们最后需要的增量包。

              具体使用方式是:将上述两个包拷贝到源码根目录下,然后执行下面的命令。

$ ./build/tools/releasetools/ota_from_target_files -i A.zip B.zip update.zip。

              在执行上述命令时会出现未找到recovery_api_version的错误。原因是在执行上面的脚本时如果使用选项i则会调用WriteIncrementalOTAPackage会从A包和B包中的META目录下搜索misc_info.txt来读取recovery_api_version的值。但是在执行make  otapackage命令时生成的update.zip包中没有这个目录更没有这个文档。

              此时我们就需要使用执行make otapackage生成的原始的zip包。这个包的位置在out/target/product/tcc8800/obj/PACKAGING/target_files_intermediates/目录下,它是在用命令make otapackage之后的中间生产物,是最原始的升级包。我们将两次编译的生成的包分别重命名为A.zip和B.zip,并拷贝到SD卡根目录下重复执行上面的命令:

               $ ./build/tools/releasetools/ota_form_target_files -i A.zip B.zip update.zip。

              在上述命令即将执行完毕时,在device/telechips/common/releasetools.py会调用IncrementalOTA_InstallEnd,在这个函数中读取包中的RADIO/bootloader.img。

三、生成OTA增量包失败的解决方案

           在上一篇中末尾使用ota_from_target_files脚本制作update.zip增量包时失败,我们先将出现的错误贴出来。

              在执行这个脚本的最后读取input_zip中RADIO/bootloader.img时出现错误,显示DeviceSpecifiParams这个对象中没有input_zip属性。

我们先从脚本中出现错误的调用函数中开始查找。出现错误的调用地方是在函WriteIncrementalOTAPackage(443行)中的device_specific.IncrementalOTA_InstallEnd(),其位于WriteIncrementalOTAPackage()中的末尾。进一步跟踪源码发现,这是一个回调函数,他的具体执行方法位于源码中/device/telechips/common/releasetools.py脚本中的IncrementalOTA_InstallEnd()函数。下面就分析这个函数的作用。

releasetools.py脚本中的两个函数FullOTA_InstallEnd()和IncrementalOTA_InstallEnd()的作用都是从输入包中读取RADIO/下的bootloader.img文件写到输出包中,同时生成安装bootloader.img时执行脚本的那部分命令。只不过一个是直接将输入包中的bootloader.img镜像写到输出包中,一个是先比较target_zip和source_zip中的bootloader.img是否不同(使用选项-i生成差分包时),然后将新的镜像写入输出包中。下面先将这个函数(位于/device/telechips/common/releasetools.py)的具体实现贴出来:

                    

               我们的实际情况是,在用命令make otapackage时生成的包中是没有这个RADIO目录下的bootloader.img镜像文件(因为这部分更新已被屏蔽掉了)。但是这个函数中对于从包中未读取到bootloader.img文件的情况是有错误处理的,即返回。所以我们要从  出现的实际错误中寻找问题的原由。

真正出现错误的地方是:

target_bootloader=info.input_zip.read(“RADIO/bootloader.img”)。

出现错误的原因是:AttributeError:‘DeviceSpecificParams’object has no attribute  ‘input_zip’,提示我们DeviceSpecificParams对象没有input_zip这个属性。

在用ota_from_target_files脚本制作差分包时使用了选项-i,并且只有这种情况有三个参数,即target_zip 、source_zip、 out_zip。而出现错误的地方是target_bootloader=info.input_zip_read(“RADIO/bootloader.img”),它使用的是input_zip,我们要怀疑这个地方是不是使用错了,而应该使用info.target_zip.read()。下面可以证实一下我们的猜测。

从ota_from_target_files脚本中WriteFullOTAPackage()和WriteIncrementalOTAPackage这两个函数(分别用来生成全包和差分包)可以发现,在他们的开始部分都对device_specific进行了赋值。其中WriteFullOTAPackage()对应的参数是input_zip和out_zip,而WriteIncrementalOTAPackage对应的是target_zip,source_zip,out_zip,我们可以看一下在WriteIncrementalOTAPackage函数中这部分的具体实现:

       从上图可以发现,在WriteIncrementalOTAPackage函数对DeviceSpecificParams对象进行初始化时确实使用的是target_zip而不是input_zip。而在releasetools.py脚本中使用的却是info.input_zip.read(),所以才会出现DeviceSpecificParams对象没有input_zip这个属性。由此我们找到了问题的所在(这是不是源码中的一个Bug?)。

将releasetools.py脚本IncrementalOTA_InstallEnd(info)函数中的 target_bootloader=info.input_zip.

read(“RADIO/bootloader.img”)为:target_bootloader=info.target_zip.read(“RADIO/bootloader.img”),然后重新执行上面提到的制作差分包命令。就生成了我们需要的差分包update.zip。

二、          差分包update.zip的更新测试

                在上面制作差分包脚本命令中,生成差分包的原理是,参照第一个参数(target_zip),将第二个参数(source_zip)中不同的部分输出到第三个参数(output_zip)中。其中target_zip与source_zip的先后顺序不同,产生的差分包也将不同。

在实际的测试过程中,我们的增量包要删除之前添加的一个应用(在使用update.zip全包升级时增加的),其他的部分如内核都没有改动,所以生成的差分包很简单,只有META-INF这个文件夹。主要的不同都体现在updater-script脚本中,其中的#----start make changes  here----之后的部分就是做出改变的部分,最主要的脚本命令是: delete(“/system/app/CheckUpdateAll.apk” , “/system/recovery.img”);在具体更新时它将删除CheckUpdateAll.apk这个应用。

为了大家参考,还是把这个差分包的升级脚本贴出来,其对应的完全升级的脚本在第九篇已贴出

[plain]  view plain copy

  1. mount("yaffs2", "MTD", "system", "/system");

  2. assert(file_getprop("/system/build.prop", "ro.build.fingerprint") == "telechips/full_tcc8800_evm/tcc8800:2.3.5/GRJ90/eng.mumu.20120309.100232:eng/test-keys" ||

  3. file_getprop("/system/build.prop", "ro.build.fingerprint") == "telechips/full_tcc8800_evm/tcc8800:2.3.5/GRJ90/eng.mumu.20120309.100232:eng/test-keys");

  4. assert(getprop("ro.product.device") == "tcc8800" ||

  5. getprop("ro.build.product") == "tcc8800");

  6. ui_print("Verifying current system…");

  7. show_progress(0.100000, 0);

  8. # ---- start making changes here ----

  9. ui_print("Removing unneeded files…");

  10. delete("/system/app/CheckUpdateAll.apk",

  11. "/system/recovery.img");

  12. show_progress(0.800000, 0);

  13. ui_print("Patching system files…");

  14. show_progress(0.100000, 10);

  15. ui_print("Symlinks and permissions…");

  16. set_perm_recursive(0, 0, 0755, 0644, "/system");

  17. set_perm_recursive(0, 2000, 0755, 0755, "/system/bin");

  18. set_perm(0, 3003, 02750, "/system/bin/netcfg");

  19. set_perm(0, 3004, 02755, "/system/bin/ping");

  20. set_perm(0, 2000, 06750, "/system/bin/run-as");

  21. set_perm_recursive(1002, 1002, 0755, 0440, "/system/etc/bluetooth");

  22. set_perm(0, 0, 0755, "/system/etc/bluetooth");

  23. set_perm(1000, 1000, 0640, "/system/etc/bluetooth/auto_pairing.conf");

  24. set_perm(3002, 3002, 0444, "/system/etc/bluetooth/blacklist.conf");

  25. set_perm(1002, 1002, 0440, "/system/etc/dbus.conf");

  26. set_perm(1014, 2000, 0550, "/system/etc/dhcpcd/dhcpcd-run-hooks");

  27. set_perm(0, 2000, 0550, "/system/etc/init.goldfish.sh");

  28. set_perm_recursive(0, 0, 0755, 0555, "/system/etc/ppp");

  29. set_perm_recursive(0, 2000, 0755, 0755, "/system/xbin");

  30. set_perm(0, 0, 06755, "/system/xbin/librank");

  31. set_perm(0, 0, 06755, "/system/xbin/procmem");

  32. set_perm(0, 0, 06755, "/system/xbin/procrank");

  33. set_perm(0, 0, 06755, "/system/xbin/su");

  34. set_perm(0, 0, 06755, "/system/xbin/tcpdump");

  35. unmount("/system");

    在做更新测试时,我们要以target_zip系统为依据,也就是更新之前的开发板系统是用target_zip包升级后的系统。否则会更新就会失败,因为在更新时会从系统对应的目录下读取设备以及时间戳等信息(updater-script脚本一开始的部分),进行匹配正确后才进行下一步的安装。

    所有准备都完成后,将我们制作的差分包放到SD卡中,在Settings-->About Phone-->System Update-->Installed From SDCARD执行更新。最后更新完成并重启后,我们会发现之前的CheckUpdateAll.apk被成功删掉了,大功告成!

    至此终于将update.zip包以及其对应的差分包制作成功了,下面的文章开始具体分析制作的update.zip包在实际的更新中所走的过程!

转载地址:http://blog.csdn.net/mu0206mu/article/details/7399822