1. Tổng quan
Trong lớp học lập trình đầu tiên, bạn sẽ lưu trữ hình ảnh trong một vùng chứa. Thao tác này sẽ tạo một sự kiện tạo tệp và sự kiện này sẽ được xử lý bởi một dịch vụ được triển khai trong Cloud Run. Dịch vụ này sẽ gọi Vision API để phân tích hình ảnh và lưu kết quả vào một kho dữ liệu.
Kiến thức bạn sẽ học được
- Cloud Storage
- Cloud Run
- Cloud Vision API
- Cloud Firestore
2. Thiết lập và yêu cầu
Thiết lập môi trường theo tốc độ của riêng bạn
- Đăng nhập vào Google Cloud Console rồi tạo một dự án mới hoặc sử dụng lại một dự án hiện có. Nếu chưa có tài khoản Gmail hoặc Google Workspace, bạn phải tạo một tài khoản.
- Tên dự án là tên hiển thị của những người tham gia dự án này. Đây là một chuỗi ký tự mà các API của Google không sử dụng. Bạn luôn có thể cập nhật thông tin này.
- Mã dự án là mã duy nhất trên tất cả các dự án trên Google Cloud và không thể thay đổi (bạn không thể thay đổi mã này sau khi đã đặt). Cloud Console sẽ tự động tạo một chuỗi duy nhất; thường thì bạn không cần quan tâm đến chuỗi này. Trong hầu hết các lớp học lập trình, bạn sẽ cần tham chiếu đến Mã dự án (thường được xác định là
PROJECT_ID). Nếu không thích mã nhận dạng được tạo, bạn có thể tạo một mã nhận dạng ngẫu nhiên khác. Hoặc bạn có thể thử tên người dùng của riêng mình để xem tên đó có được chấp nhận hay không. Bạn không thể thay đổi tên này sau bước này và tên này sẽ tồn tại trong suốt thời gian của dự án. - Để bạn nắm được thông tin, có một giá trị thứ ba là Số dự án mà một số API sử dụng. Tìm hiểu thêm về cả 3 giá trị này trong tài liệu.
- Tiếp theo, bạn cần bật tính năng thanh toán trong Cloud Console để sử dụng các tài nguyên/API trên đám mây. Việc thực hiện lớp học lập trình này sẽ không tốn nhiều chi phí, nếu có. Để tắt các tài nguyên nhằm tránh bị tính phí ngoài phạm vi hướng dẫn này, bạn có thể xoá các tài nguyên đã tạo hoặc xoá dự án. Người dùng mới của Google Cloud đủ điều kiện tham gia chương trình Dùng thử miễn phí trị giá 300 USD.
Khởi động Cloud Shell
Mặc dù có thể vận hành Google Cloud từ xa trên máy tính xách tay, nhưng trong lớp học lập trình này, bạn sẽ sử dụng Google Cloud Shell, một môi trường dòng lệnh chạy trên Cloud.
Trên Bảng điều khiển Google Cloud, hãy nhấp vào biểu tượng Cloud Shell trên thanh công cụ ở trên cùng bên phải:
Quá trình này chỉ mất vài phút để cung cấp và kết nối với môi trường. Khi quá trình này kết thúc, bạn sẽ thấy như sau:
Máy ảo này được trang bị tất cả các công cụ phát triển mà bạn cần. Nó cung cấp một thư mục chính có dung lượng 5 GB và chạy trên Google Cloud, giúp tăng cường đáng kể hiệu suất mạng và hoạt động xác thực. Bạn có thể thực hiện mọi thao tác trong lớp học lập trình này trong trình duyệt. Bạn không cần cài đặt bất cứ thứ gì.
3. Bật API
Trong phòng thí nghiệm này, bạn sẽ sử dụng Cloud Functions và Vision API. Tuy nhiên, trước tiên, bạn cần bật các API này trong Cloud Console hoặc bằng gcloud.
Để bật Vision API trong Cloud Console, hãy tìm Cloud Vision API trong thanh tìm kiếm:
Bạn sẽ chuyển đến trang Cloud Vision API:
Nhấp vào nút ENABLE.
Ngoài ra, bạn cũng có thể bật Cloud Shell bằng công cụ dòng lệnh gcloud.
Trong Cloud Shell, hãy chạy lệnh sau:
gcloud services enable vision.googleapis.com
Bạn sẽ thấy thao tác hoàn tất thành công:
Operation "operations/acf.12dba18b-106f-4fd2-942d-fea80ecc5c1c" finished successfully.
Bật Cloud Run và Cloud Build:
gcloud services enable cloudbuild.googleapis.com \ run.googleapis.com
4. Tạo vùng chứa (bảng điều khiển)
Tạo một bộ chứa lưu trữ cho các bức ảnh. Bạn có thể thực hiện việc này trên bảng điều khiển Google Cloud Platform ( console.cloud.google.com) hoặc bằng công cụ dòng lệnh gsutil trên Cloud Shell hoặc môi trường phát triển cục bộ.
Chuyển đến phần Bộ nhớ
Trong trình đơn "hamburger" (☰), hãy chuyển đến trang Storage.
Đặt tên cho nhóm của bạn
Nhấp vào nút CREATE BUCKET.
Nhấp vào CONTINUE.
Chọn vị trí
Tạo một vùng chứa đa khu vực ở khu vực mà bạn chọn (trong trường hợp này là Europe).
Nhấp vào CONTINUE.
Chọn lớp lưu trữ mặc định
Chọn lớp lưu trữ Standard cho dữ liệu của bạn.
Nhấp vào CONTINUE.
Thiết lập quyền kiểm soát truy cập
Vì bạn sẽ làm việc với những hình ảnh có thể truy cập công khai, nên bạn muốn tất cả hình ảnh được lưu trữ trong nhóm này đều có cùng một chế độ kiểm soát truy cập đồng nhất.
Chọn chế độ kiểm soát quyền truy cập Uniform.
Nhấp vào CONTINUE.
Thiết lập chế độ bảo vệ/mã hoá
Giữ nguyên chế độ mặc định (Google-managed key), vì bạn sẽ không sử dụng khoá mã hoá của riêng mình.
Nhấp vào CREATE để hoàn tất quá trình tạo nhóm.
Thêm allUsers làm người xem bộ nhớ
Chuyển đến thẻ Permissions:
Thêm một thành viên allUsers vào nhóm, với vai trò là Storage > Storage Object Viewer, như sau:
Nhấp vào SAVE.
5. Tạo vùng chứa (gsutil)
Bạn cũng có thể sử dụng công cụ dòng lệnh gsutil trong Cloud Shell để tạo các vùng chứa.
Trong Cloud Shell, hãy đặt một biến cho tên bộ chứa riêng biệt. Cloud Shell đã đặt GOOGLE_CLOUD_PROJECT thành mã dự án duy nhất của bạn. Bạn có thể thêm thông tin đó vào tên nhóm.
Ví dụ:
export BUCKET_PICTURES=uploaded-pictures-${GOOGLE_CLOUD_PROJECT}
Tạo một vùng tiêu chuẩn có nhiều khu vực ở Châu Âu:
gsutil mb -l EU gs://${BUCKET_PICTURES}
Đảm bảo quyền truy cập ở cấp nhóm đồng nhất:
gsutil uniformbucketlevelaccess set on gs://${BUCKET_PICTURES}
Đặt thùng chứa ở chế độ công khai:
gsutil iam ch allUsers:objectViewer gs://${BUCKET_PICTURES}
Nếu chuyển đến mục Cloud Storage của bảng điều khiển, bạn sẽ thấy một vùng chứa uploaded-pictures công khai:
Kiểm tra để đảm bảo bạn có thể tải hình ảnh lên nhóm và hình ảnh đã tải lên được cung cấp công khai, như đã giải thích ở bước trước.
6. Kiểm thử quyền truy cập công khai vào vùng lưu trữ
Quay lại trình duyệt lưu trữ, bạn sẽ thấy nhóm của mình trong danh sách, với quyền truy cập "Công khai" (kể cả dấu cảnh báo nhắc bạn rằng bất kỳ ai cũng có quyền truy cập vào nội dung của nhóm đó).
Thùng của bạn hiện đã sẵn sàng nhận ảnh.
Nếu nhấp vào tên nhóm, bạn sẽ thấy thông tin chi tiết về nhóm.
Tại đây, bạn có thể thử nút Upload files để kiểm tra xem bạn có thể thêm ảnh vào nhóm hay không. Một cửa sổ bật lên chọn tệp sẽ yêu cầu bạn chọn một tệp. Sau khi bạn chọn, tệp đó sẽ được tải lên nhóm của bạn và bạn sẽ thấy lại quyền truy cập public được tự động gán cho tệp mới này.
Bên cạnh nhãn truy cập Public, bạn cũng sẽ thấy một biểu tượng đường liên kết nhỏ. Khi bạn nhấp vào đó, trình duyệt sẽ chuyển đến URL công khai của hình ảnh đó, có dạng như sau:
https://storage.googleapis.com/BUCKET_NAME/PICTURE_FILE.png
Trong đó BUCKET_NAME là tên riêng biệt dùng chung mà bạn đã chọn cho nhóm của mình, sau đó là tên tệp của bức ảnh.
Khi bạn nhấp vào hộp đánh dấu bên cạnh tên ảnh, nút DELETE sẽ được bật và bạn có thể xoá hình ảnh đầu tiên này.
7. Chuẩn bị cơ sở dữ liệu
Bạn sẽ lưu trữ thông tin về hình ảnh do Vision API cung cấp vào cơ sở dữ liệu Cloud Firestore. Đây là một cơ sở dữ liệu tài liệu NoSQL nhanh, hoàn toàn trên đám mây, không máy chủ và được quản lý toàn diện. Chuẩn bị cơ sở dữ liệu bằng cách chuyển đến mục Firestore của Cloud Console:
Bạn có hai lựa chọn: Native mode hoặc Datastore mode. Sử dụng chế độ gốc để có thêm các tính năng như hỗ trợ khi không có mạng và đồng bộ hoá theo thời gian thực.
Nhấp vào biểu tượng SELECT NATIVE MODE.
Chọn một khu vực có nhiều vùng (ở đây là Châu Âu, nhưng lý tưởng nhất là ít nhất phải cùng khu vực với hàm và vùng lưu trữ của bạn).
Nhấp vào nút CREATE DATABASE.
Sau khi tạo cơ sở dữ liệu, bạn sẽ thấy những thông tin sau:
Tạo một bộ sưu tập mới bằng cách nhấp vào nút + START COLLECTION.
Bộ sưu tập tên pictures.
Bạn không cần tạo tài liệu. Bạn sẽ thêm các hình ảnh này theo phương thức lập trình khi hình ảnh mới được lưu trữ trong Cloud Storage và được Vision API phân tích.
Nhấp vào Save.
Firestore sẽ tạo một tài liệu mặc định đầu tiên trong tập hợp mới tạo. Bạn có thể xoá tài liệu đó một cách an toàn vì tài liệu này không chứa thông tin hữu ích nào:
Các tài liệu sẽ được tạo theo chương trình trong bộ sưu tập của chúng tôi sẽ chứa 4 trường:
- name (chuỗi): tên tệp của bức ảnh được tải lên, cũng là khoá của tài liệu
- labels (mảng chuỗi): nhãn của các mục được nhận dạng bằng Vision API
- color (chuỗi): mã màu thập lục phân của màu chủ đạo (ví dụ: #ab12ef)
- created (ngày): dấu thời gian cho biết thời điểm siêu dữ liệu của hình ảnh này được lưu trữ
- thumbnail (boolean): một trường không bắt buộc sẽ xuất hiện và có giá trị true nếu hình thu nhỏ đã được tạo cho bức ảnh này
Vì chúng ta sẽ tìm kiếm trong Firestore để tìm những bức ảnh có hình thu nhỏ và sắp xếp theo ngày tạo, nên chúng ta cần tạo một chỉ mục tìm kiếm.
Bạn có thể tạo chỉ mục bằng lệnh sau trong Cloud Shell:
gcloud firestore indexes composite create \
--collection-group=pictures \
--field-config field-path=thumbnail,order=descending \
--field-config field-path=created,order=descending
Hoặc bạn cũng có thể thực hiện việc này trên Cloud Console bằng cách nhấp vào Indexes trong cột điều hướng ở bên trái, rồi tạo một chỉ mục kết hợp như minh hoạ dưới đây:
Nhấp vào Create. Quá trình tạo chỉ mục có thể mất vài phút.
8. Sao chép mã
Sao chép mã nếu bạn chưa thực hiện trong lớp học lập trình trước:
git clone https://github.com/GoogleCloudPlatform/serverless-photosharing-workshop
Sau đó, bạn có thể chuyển đến thư mục chứa dịch vụ để bắt đầu tạo phòng thí nghiệm:
cd serverless-photosharing-workshop/services/image-analysis/java
Bạn sẽ có bố cục tệp sau cho dịch vụ:
9. Khám phá mã dịch vụ
Bạn bắt đầu bằng cách xem cách Thư viện ứng dụng Java được bật trong pom.xml bằng BOM:
Trước tiên, hãy mở tệp pom.xml liệt kê các phần phụ thuộc của ứng dụng Java; trọng tâm là việc sử dụng các API Vision, Cloud Storage và Firestore
<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 https://maven.apache.org/xsd/maven-4.0.0.xsd">
<modelVersion>4.0.0</modelVersion>
<parent>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-parent</artifactId>
<version>3.2.0-M3</version>
<relativePath/> <!-- lookup parent from repository -->
</parent>
<groupId>services</groupId>
<artifactId>image-analysis</artifactId>
<version>0.0.1</version>
<name>image-analysis</name>
<description>Spring App for Image Analysis</description>
<properties>
<java.version>17</java.version>
<maven.compiler.target>17</maven.compiler.target>
<maven.compiler.source>17</maven.compiler.source>
<spring-cloud.version>2023.0.0-M2</spring-cloud.version>
<testcontainers.version>1.19.1</testcontainers.version>
</properties>
...
<dependencyManagement>
<dependencies>
<dependency>
<groupId>com.google.cloud</groupId>
<artifactId>libraries-bom</artifactId>
<version>26.24.0</version>
<type>pom</type>
<scope>import</scope>
</dependency>
</dependencies>
</dependencyManagement>
—
<dependencies>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-web</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-function-web</artifactId>
</dependency>
<dependency>
<groupId>com.google.cloud.functions</groupId>
<artifactId>functions-framework-api</artifactId>
<version>1.1.0</version>
<type>jar</type>
</dependency>
<dependency>
<groupId>com.google.cloud</groupId>
<artifactId>google-cloud-firestore</artifactId>
</dependency>
<dependency>
<groupId>com.google.cloud</groupId>
<artifactId>google-cloud-vision</artifactId>
</dependency>
<dependency>
<groupId>com.google.cloud</groupId>
<artifactId>google-cloud-storage</artifactId>
</dependency>
Chức năng này được triển khai trong lớp EventController. Mỗi khi có một hình ảnh mới được tải lên nhóm, dịch vụ sẽ nhận được thông báo để xử lý:
@RestController
public class EventController {
private static final Logger logger = Logger.getLogger(EventController.class.getName());
private static final List<String> requiredFields = Arrays.asList("ce-id", "ce-source", "ce-type", "ce-specversion");
@RequestMapping(value = "/", method = RequestMethod.POST)
public ResponseEntity<String> receiveMessage(
@RequestBody Map<String, Object> body, @RequestHeader Map<String, String> headers) throws IOException, InterruptedException, ExecutionException {
...
}
Mã này sẽ tiếp tục xác thực các tiêu đề Cloud Events:
System.out.println("Header elements");
for (String field : requiredFields) {
if (headers.get(field) == null) {
String msg = String.format("Missing expected header: %s.", field);
System.out.println(msg);
return new ResponseEntity<String>(msg, HttpStatus.BAD_REQUEST);
} else {
System.out.println(field + " : " + headers.get(field));
}
}
System.out.println("Body elements");
for (String bodyField : body.keySet()) {
System.out.println(bodyField + " : " + body.get(bodyField));
}
if (headers.get("ce-subject") == null) {
String msg = "Missing expected header: ce-subject.";
System.out.println(msg);
return new ResponseEntity<String>(msg, HttpStatus.BAD_REQUEST);
}
Giờ đây, bạn có thể tạo một yêu cầu và mã sẽ chuẩn bị một yêu cầu như vậy để gửi đến Vision API:
try (ImageAnnotatorClient vision = ImageAnnotatorClient.create()) {
List<AnnotateImageRequest> requests = new ArrayList<>();
ImageSource imageSource = ImageSource.newBuilder()
.setGcsImageUri("gs://" + bucketName + "/" + fileName)
.build();
Image image = Image.newBuilder()
.setSource(imageSource)
.build();
Feature featureLabel = Feature.newBuilder()
.setType(Type.LABEL_DETECTION)
.build();
Feature featureImageProps = Feature.newBuilder()
.setType(Type.IMAGE_PROPERTIES)
.build();
Feature featureSafeSearch = Feature.newBuilder()
.setType(Type.SAFE_SEARCH_DETECTION)
.build();
AnnotateImageRequest request = AnnotateImageRequest.newBuilder()
.addFeatures(featureLabel)
.addFeatures(featureImageProps)
.addFeatures(featureSafeSearch)
.setImage(image)
.build();
requests.add(request);
Chúng tôi yêu cầu 3 chức năng chính của Vision API:
- Phát hiện nhãn: để hiểu nội dung trong những bức ảnh đó
- Thuộc tính hình ảnh: để cung cấp các thuộc tính thú vị của hình ảnh (chúng tôi quan tâm đến màu sắc chủ đạo của hình ảnh)
- Tìm kiếm an toàn: để biết liệu hình ảnh có an toàn để hiển thị hay không (không được chứa nội dung người lớn / y tế / không phù hợp / nội dung bạo lực)
Đến đây, chúng ta có thể gọi Vision API:
...
logger.info("Calling the Vision API...");
BatchAnnotateImagesResponse result = vision.batchAnnotateImages(requests);
List<AnnotateImageResponse> responses = result.getResponsesList();
...
Để tham khảo, sau đây là phản hồi từ Vision API:
{
"faceAnnotations": [],
"landmarkAnnotations": [],
"logoAnnotations": [],
"labelAnnotations": [
{
"locations": [],
"properties": [],
"mid": "/m/01yrx",
"locale": "",
"description": "Cat",
"score": 0.9959855675697327,
"confidence": 0,
"topicality": 0.9959855675697327,
"boundingPoly": null
},
✄ - - - ✄
],
"textAnnotations": [],
"localizedObjectAnnotations": [],
"safeSearchAnnotation": {
"adult": "VERY_UNLIKELY",
"spoof": "UNLIKELY",
"medical": "VERY_UNLIKELY",
"violence": "VERY_UNLIKELY",
"racy": "VERY_UNLIKELY",
"adultConfidence": 0,
"spoofConfidence": 0,
"medicalConfidence": 0,
"violenceConfidence": 0,
"racyConfidence": 0,
"nsfwConfidence": 0
},
"imagePropertiesAnnotation": {
"dominantColors": {
"colors": [
{
"color": {
"red": 203,
"green": 201,
"blue": 201,
"alpha": null
},
"score": 0.4175916016101837,
"pixelFraction": 0.44456374645233154
},
✄ - - - ✄
]
}
},
"error": null,
"cropHintsAnnotation": {
"cropHints": [
{
"boundingPoly": {
"vertices": [
{ "x": 0, "y": 118 },
{ "x": 1177, "y": 118 },
{ "x": 1177, "y": 783 },
{ "x": 0, "y": 783 }
],
"normalizedVertices": []
},
"confidence": 0.41695669293403625,
"importanceFraction": 1
}
]
},
"fullTextAnnotation": null,
"webDetection": null,
"productSearchResults": null,
"context": null
}
Nếu không có lỗi nào được trả về, chúng ta có thể chuyển sang bước tiếp theo. Đó là lý do chúng ta có khối if này:
if (responses.size() == 0) {
logger.info("No response received from Vision API.");
return new ResponseEntity<String>(msg, HttpStatus.BAD_REQUEST);
}
AnnotateImageResponse response = responses.get(0);
if (response.hasError()) {
logger.info("Error: " + response.getError().getMessage());
return new ResponseEntity<String>(msg, HttpStatus.BAD_REQUEST);
}
Chúng ta sẽ lấy nhãn của những vật thể, danh mục hoặc chủ đề được nhận dạng trong bức ảnh:
List<String> labels = response.getLabelAnnotationsList().stream()
.map(annotation -> annotation.getDescription())
.collect(Collectors.toList());
logger.info("Annotations found:");
for (String label: labels) {
logger.info("- " + label);
}
Chúng tôi muốn biết màu chủ đạo của bức ảnh:
String mainColor = "#FFFFFF";
ImageProperties imgProps = response.getImagePropertiesAnnotation();
if (imgProps.hasDominantColors()) {
DominantColorsAnnotation colorsAnn = imgProps.getDominantColors();
ColorInfo colorInfo = colorsAnn.getColors(0);
mainColor = rgbHex(
colorInfo.getColor().getRed(),
colorInfo.getColor().getGreen(),
colorInfo.getColor().getBlue());
logger.info("Color: " + mainColor);
}
Hãy kiểm tra xem bức ảnh có an toàn để hiển thị hay không:
boolean isSafe = false;
if (response.hasSafeSearchAnnotation()) {
SafeSearchAnnotation safeSearch = response.getSafeSearchAnnotation();
isSafe = Stream.of(
safeSearch.getAdult(), safeSearch.getMedical(), safeSearch.getRacy(),
safeSearch.getSpoof(), safeSearch.getViolence())
.allMatch( likelihood ->
likelihood != Likelihood.LIKELY && likelihood != Likelihood.VERY_LIKELY
);
logger.info("Safe? " + isSafe);
}
Chúng tôi đang kiểm tra các đặc điểm người lớn / giả mạo / y tế / bạo lực / không phù hợp cho người xem chưa đến tuổi trưởng thành để xem chúng có khả năng hoặc rất có khả năng xuất hiện hay không.
Nếu kết quả tìm kiếm an toàn là ổn, chúng ta có thể lưu trữ siêu dữ liệu trong Firestore:
// Saving result to Firestore
if (isSafe) {
ApiFuture<WriteResult> writeResult =
eventService.storeImage(fileName, labels,
mainColor);
logger.info("Picture metadata saved in Firestore at " +
writeResult.get().getUpdateTime());
}
...
public ApiFuture<WriteResult> storeImage(String fileName,
List<String> labels,
String mainColor) {
FirestoreOptions firestoreOptions = FirestoreOptions.getDefaultInstance();
Firestore pictureStore = firestoreOptions.getService();
DocumentReference doc = pictureStore.collection("pictures").document(fileName);
Map<String, Object> data = new HashMap<>();
data.put("labels", labels);
data.put("color", mainColor);
data.put("created", new Date());
return doc.set(data, SetOptions.merge());
}
10. Tạo hình ảnh ứng dụng bằng GraalVM
Trong bước không bắt buộc này, bạn sẽ tạo một JIT based app image, sau đó là một Native Java app image bằng GraalVM.
Để chạy bản dựng, bạn cần đảm bảo rằng bạn có JDK phù hợp và trình tạo native-image đã được cài đặt và định cấu hình. Có một số lựa chọn.
To start, hãy tải GraalVM 22.3.x Community Edition xuống và làm theo hướng dẫn trên trang cài đặt GraalVM.
Bạn có thể đơn giản hoá đáng kể quy trình này nhờ SDKMAN!
Để cài đặt bản phân phối JDK thích hợp bằng SDKman, hãy bắt đầu bằng cách sử dụng lệnh cài đặt:
sdk install java 17.0.8-graal
Hướng dẫn SDKman sử dụng phiên bản này cho cả bản dựng JIT và AOT:
sdk use java 17.0.8-graal
Trong Cloudshell, để thuận tiện, bạn có thể cài đặt GraalVM và tiện ích native-image bằng các lệnh đơn giản sau:
# download GraalVM wget https://download.oracle.com/graalvm/17/latest/graalvm-jdk-17_linux-x64_bin.tar.gz tar -xzf graalvm-jdk-17_linux-x64_bin.tar.gz ls -lart # configure Java 17 and GraalVM for Java 17 # note the name of the latest GraalVM version, as unpacked by the tar command echo Existing JVM: $JAVA_HOME cd graalvm-jdk-17.0.8+9.1 export JAVA_HOME=$PWD cd bin export PATH=$PWD:$PATH echo JAVA HOME: $JAVA_HOME echo PATH: $PATH cd ../.. # validate the version with java -version # observe Java(TM) SE Runtime Environment Oracle GraalVM 17.0.8+9.1 (build 17.0.8+9-LTS-jvmci-23.0-b14) Java HotSpot(TM) 64-Bit Server VM Oracle GraalVM 17.0.8+9.1 (build 17.0.8+9-LTS-jvmci-23.0-b14, mixed mode, sharing)
Trước tiên, hãy đặt các biến môi trường dự án GCP:
export GOOGLE_CLOUD_PROJECT=$(gcloud config get-value project)
Sau đó, bạn có thể chuyển đến thư mục chứa dịch vụ để bắt đầu tạo phòng thí nghiệm:
cd serverless-photosharing-workshop/services/image-analysis/java
Tạo hình ảnh ứng dụng JIT:
./mvnw package
Quan sát nhật ký bản dựng trong thiết bị đầu cuối:
... [INFO] Results: [INFO] [INFO] Tests run: 6, Failures: 0, Errors: 0, Skipped: 0 [INFO] [INFO] [INFO] --- maven-jar-plugin:3.3.0:jar (default-jar) @ image-analysis --- [INFO] Building jar: /home/user/serverless-photosharing-workshop/services/image-analysis/java/target/image-analysis-0.0.1.jar [INFO] [INFO] --- spring-boot-maven-plugin:3.2.0-M3:repackage (repackage) @ image-analysis --- [INFO] Replacing main artifact /home/user/serverless-photosharing-workshop/services/image-analysis/java/target/image-analysis-0.0.1.jar with repackaged archive, adding nested dependencies in BOOT-INF/. [INFO] The original artifact has been renamed to /home/user/serverless-photosharing-workshop/services/image-analysis/java/target/image-analysis-0.0.1.jar.original [INFO] ------------------------------------------------------------------------ [INFO] BUILD SUCCESS [INFO] ------------------------------------------------------------------------ [INFO] Total time: 15.335 s [INFO] Finished at: 2023-10-10T19:33:25Z [INFO] ------------------------------------------------------------------------
Tạo hình ảnh Native(sử dụng AOT):.
./mvnw native:compile -Pnative
Quan sát nhật ký bản dựng trong thiết bị đầu cuối, bao gồm cả nhật ký bản dựng hình ảnh gốc:
Xin lưu ý rằng bản dựng sẽ mất nhiều thời gian hơn, tuỳ thuộc vào máy mà bạn đang kiểm thử.
...
[2/7] Performing analysis... [*********] (124.5s @ 4.53GB)
29,732 (93.19%) of 31,905 classes reachable
60,161 (70.30%) of 85,577 fields reachable
261,973 (67.29%) of 389,319 methods reachable
2,940 classes, 2,297 fields, and 97,421 methods registered for reflection
81 classes, 90 fields, and 62 methods registered for JNI access
4 native libraries: dl, pthread, rt, z
[3/7] Building universe... (11.7s @ 4.67GB)
[4/7] Parsing methods... [***] (6.1s @ 5.91GB)
[5/7] Inlining methods... [****] (4.5s @ 4.39GB)
[6/7] Compiling methods... [******] (35.3s @ 4.60GB)
[7/7] Creating image... (12.9s @ 4.61GB)
80.08MB (47.43%) for code area: 190,483 compilation units
73.81MB (43.72%) for image heap: 660,125 objects and 189 resources
14.95MB ( 8.86%) for other data
168.84MB in total
------------------------------------------------------------------------------------------------------------------------
Top 10 packages in code area: Top 10 object types in image heap:
2.66MB com.google.cloud.vision.v1p4beta1 18.51MB byte[] for code metadata
2.60MB com.google.cloud.vision.v1 9.27MB java.lang.Class
2.49MB com.google.protobuf 7.34MB byte[] for reflection metadata
2.40MB com.google.cloud.vision.v1p3beta1 6.35MB byte[] for java.lang.String
2.17MB com.google.storage.v2 5.72MB java.lang.String
2.12MB com.google.firestore.v1 4.46MB byte[] for embedded resources
1.64MB sun.security.ssl 4.30MB c.oracle.svm.core.reflect.SubstrateMethodAccessor
1.51MB i.g.xds.shaded.io.envoyproxy.envoy.config.core.v3 4.27MB byte[] for general heap data
1.47MB com.google.cloud.vision.v1p2beta1 2.50MB com.oracle.svm.core.hub.DynamicHubCompanion
1.34MB i.g.x.shaded.io.envoyproxy.envoy.config.route.v3 1.17MB java.lang.Object[]
58.34MB for 977 more packages 9.19MB for 4667 more object types
------------------------------------------------------------------------------------------------------------------------
13.5s (5.7% of total time) in 75 GCs | Peak RSS: 9.44GB | CPU load: 6.13
------------------------------------------------------------------------------------------------------------------------
Produced artifacts:
/home/user/serverless-photosharing-workshop/services/image-analysis/java/target/image-analysis (executable)
/home/user/serverless-photosharing-workshop/services/image-analysis/java/target/image-analysis.build_artifacts.txt (txt)
========================================================================================================================
Finished generating '/home/user/serverless-photosharing-workshop/services/image-analysis/java/target/image-analysis' in 3m 57s.
[INFO] ------------------------------------------------------------------------
[INFO] BUILD SUCCESS
[INFO] ------------------------------------------------------------------------
[INFO] Total time: 04:28 min
[INFO] Finished at: 2023-10-10T19:53:30Z
[INFO] ------------------------------------------------------------------------
11. Tạo và xuất bản hình ảnh vùng chứa
Hãy tạo một hình ảnh vùng chứa theo 2 phiên bản: một phiên bản là JIT image và phiên bản còn lại là Native Java image.
Trước tiên, hãy đặt các biến môi trường dự án GCP:
export GOOGLE_CLOUD_PROJECT=$(gcloud config get-value project)
Tạo hình ảnh JIT:.
./mvnw spring-boot:build-image -Pji
Quan sát nhật ký bản dựng trong thiết bị đầu cuối:
[INFO] [creator] Timer: Saving docker.io/library/image-analysis-maven-jit:latest... started at 2023-10-10T20:00:31Z [INFO] [creator] *** Images (4c84122a1826): [INFO] [creator] docker.io/library/image-analysis-maven-jit:latest [INFO] [creator] Timer: Saving docker.io/library/image-analysis-maven-jit:latest... ran for 6.975913605s and ended at 2023-10-10T20:00:38Z [INFO] [creator] Timer: Exporter ran for 8.068588001s and ended at 2023-10-10T20:00:38Z [INFO] [creator] Timer: Cache started at 2023-10-10T20:00:38Z [INFO] [creator] Reusing cache layer 'paketo-buildpacks/syft:syft' [INFO] [creator] Adding cache layer 'buildpacksio/lifecycle:cache.sbom' [INFO] [creator] Timer: Cache ran for 200.449002ms and ended at 2023-10-10T20:00:38Z [INFO] [INFO] Successfully built image 'docker.io/library/image-analysis-maven-jit:latest' [INFO] [INFO] ------------------------------------------------------------------------ [INFO] BUILD SUCCESS [INFO] ------------------------------------------------------------------------ [INFO] Total time: 43.887 s [INFO] Finished at: 2023-10-10T20:00:39Z [INFO] ------------------------------------------------------------------------
Tạo hình ảnh AOT(Native):.
./mvnw spring-boot:build-image -Pnative
Quan sát nhật ký bản dựng trong thiết bị đầu cuối, bao gồm cả nhật ký bản dựng hình ảnh gốc.
Lưu ý:
- việc tạo bản dựng sẽ mất nhiều thời gian hơn, tuỳ thuộc vào máy mà bạn đang kiểm thử
- các hình ảnh có thể được nén thêm bằng UPX, tuy nhiên, điều này sẽ ảnh hưởng tiêu cực một chút đến hiệu suất khởi động, do đó, bản dựng này không sử dụng UPX – đây luôn là một sự đánh đổi nhỏ
... [INFO] [creator] Saving docker.io/library/image-analysis-maven-native:latest... [INFO] [creator] *** Images (13167702674e): [INFO] [creator] docker.io/library/image-analysis-maven-native:latest [INFO] [creator] Adding cache layer 'paketo-buildpacks/bellsoft-liberica:native-image-svm' [INFO] [creator] Adding cache layer 'paketo-buildpacks/syft:syft' [INFO] [creator] Adding cache layer 'paketo-buildpacks/native-image:native-image' [INFO] [creator] Adding cache layer 'buildpacksio/lifecycle:cache.sbom' [INFO] [INFO] Successfully built image 'docker.io/library/image-analysis-maven-native:latest' [INFO] [INFO] ------------------------------------------------------------------------ [INFO] BUILD SUCCESS [INFO] ------------------------------------------------------------------------ [INFO] Total time: 03:37 min [INFO] Finished at: 2023-10-10T20:05:16Z [INFO] ------------------------------------------------------------------------
Xác thực rằng các hình ảnh đã được tạo:
docker images | grep image-analysis
Gắn thẻ và đẩy 2 hình ảnh lên GCR:
# JIT image
docker tag image-analysis-maven-jit gcr.io/${GOOGLE_CLOUD_PROJECT}/image-analysis-maven-jit
docker push gcr.io/${GOOGLE_CLOUD_PROJECT}/image-analysis-maven-jit
# Native(AOT) image
docker tag image-analysis-maven-native gcr.io/${GOOGLE_CLOUD_PROJECT}/image-analysis-maven-native
docker push gcr.io/${GOOGLE_CLOUD_PROJECT}/image-analysis-maven-native
12. Triển khai lên Cloud Run
Thời gian triển khai dịch vụ.
Bạn sẽ triển khai dịch vụ hai lần, một lần bằng hình ảnh JIT và lần thứ hai bằng hình ảnh AOT(Native). Cả hai hoạt động triển khai dịch vụ sẽ xử lý cùng một hình ảnh từ nhóm theo cách song song để so sánh.
Trước tiên, hãy đặt các biến môi trường dự án GCP:
export GOOGLE_CLOUD_PROJECT=$(gcloud config get-value project)
gcloud config set project ${GOOGLE_CLOUD_PROJECT}
gcloud config set run/region
gcloud config set run/platform managed
gcloud config set eventarc/location europe-west1
Triển khai hình ảnh JIT và quan sát nhật ký triển khai trong bảng điều khiển:
gcloud run deploy image-analysis-jit \
--image gcr.io/${GOOGLE_CLOUD_PROJECT}/image-analysis-maven-jit \
--region europe-west1 \
--memory 2Gi --allow-unauthenticated
...
Deploying container to Cloud Run service [image-analysis-jit] in project [...] region [europe-west1]
✓ Deploying... Done.
✓ Creating Revision...
✓ Routing traffic...
✓ Setting IAM Policy...
Done.
Service [image-analysis-jit] revision [image-analysis-jvm-00009-huc] has been deployed and is serving 100 percent of traffic.
Service URL: https://image-analysis-jit-...-ew.a.run.app
Triển khai Hình ảnh gốc và quan sát nhật ký triển khai trong bảng điều khiển:
gcloud run deploy image-analysis-native \
--image gcr.io/${GOOGLE_CLOUD_PROJECT}/image-analysis-maven-native \
--region europe-west1 \
--memory 2Gi --allow-unauthenticated
...
Deploying container to Cloud Run service [image-analysis-native] in project [...] region [europe-west1]
✓ Deploying... Done.
✓ Creating Revision...
✓ Routing traffic...
✓ Setting IAM Policy...
Done.
Service [image-analysis-native] revision [image-analysis-native-00005-ben] has been deployed and is serving 100 percent of traffic.
Service URL: https://image-analysis-native-...-ew.a.run.app
13. Thiết lập điều kiện kích hoạt Eventarc
Eventarc cung cấp một giải pháp tiêu chuẩn hoá để quản lý luồng thay đổi trạng thái (gọi là sự kiện) giữa các vi dịch vụ tách rời. Khi được kích hoạt, Eventarc sẽ định tuyến các sự kiện này thông qua các thuê bao Pub/Sub đến nhiều đích đến (trong tài liệu này, hãy xem phần Đích đến của sự kiện) trong khi quản lý việc phân phối, bảo mật, uỷ quyền, khả năng ghi nhận và xử lý lỗi cho bạn.
Bạn có thể tạo một trình kích hoạt Eventarc để dịch vụ Cloud Run nhận được thông báo về một sự kiện hoặc một nhóm sự kiện cụ thể. Bằng cách chỉ định bộ lọc cho điều kiện kích hoạt, bạn có thể định cấu hình hoạt động định tuyến của sự kiện, bao gồm cả nguồn sự kiện và dịch vụ Cloud Run đích.
Trước tiên, hãy đặt các biến môi trường dự án GCP:
export GOOGLE_CLOUD_PROJECT=$(gcloud config get-value project)
gcloud config set project ${GOOGLE_CLOUD_PROJECT}
gcloud config set run/region
gcloud config set run/platform managed
gcloud config set eventarc/location europe-west1
Cấp pubsub.publisher cho tài khoản dịch vụ Cloud Storage:
SERVICE_ACCOUNT="$(gsutil kms serviceaccount -p ${GOOGLE_CLOUD_PROJECT})"
gcloud projects add-iam-policy-binding ${GOOGLE_CLOUD_PROJECT} \
--member="serviceAccount:${SERVICE_ACCOUNT}" \
--role='roles/pubsub.publisher'
Thiết lập các trình kích hoạt Eventarc cho cả hình ảnh dịch vụ JIT và Native để xử lý hình ảnh:
gcloud eventarc triggers list --location=eu
gcloud eventarc triggers create image-analysis-jit-trigger \
--destination-run-service=image-analysis-jit \
--destination-run-region=europe-west1 \
--location=eu \
--event-filters="type=google.cloud.storage.object.v1.finalized" \
--event-filters="bucket=uploaded-pictures-${GOOGLE_CLOUD_PROJECT}" \
--service-account=${PROJECT_NUMBER}-compute@developer.gserviceaccount.com
gcloud eventarc triggers create image-analysis-native-trigger \
--destination-run-service=image-analysis-native \
--destination-run-region=europe-west1 \
--location=eu \
--event-filters="type=google.cloud.storage.object.v1.finalized" \
--event-filters="bucket=uploaded-pictures-${GOOGLE_CLOUD_PROJECT}" \
--service-account=${PROJECT_NUMBER}-compute@developer.gserviceaccount.com
Quan sát thấy 2 điều kiện kích hoạt đã được tạo:
gcloud eventarc triggers list --location=eu
14. Phiên bản dịch vụ thử nghiệm
Sau khi triển khai dịch vụ thành công, bạn sẽ đăng một bức ảnh lên Cloud Storage, xem các dịch vụ của chúng tôi có được gọi hay không, Vision API trả về những gì và liệu siêu dữ liệu có được lưu trữ trong Firestore hay không.
Quay lại Cloud Storage rồi nhấp vào nhóm chúng ta đã tạo ở đầu phòng thí nghiệm:
Khi bạn chuyển đến trang thông tin chi tiết về bộ chứa, hãy nhấp vào nút Upload files để tải ảnh lên.
Ví dụ: hình ảnh GeekHour.jpeg được cung cấp cùng với cơ sở mã của bạn trong /services/image-analysis/java. Chọn một hình ảnh rồi nhấn phím Open button:
Giờ đây, bạn có thể kiểm tra quá trình thực thi dịch vụ, bắt đầu bằng image-analysis-jit, sau đó là image-analysis-native.
Trong trình đơn "hamburger" (☰), hãy chuyển đến dịch vụ Cloud Run > image-analysis-jit.
Nhấp vào Nhật ký và quan sát kết quả:
Và thực tế là trong danh sách nhật ký, tôi có thể thấy rằng dịch vụ JIT image-analysis-jit đã được gọi.
Nhật ký cho biết thời điểm bắt đầu và kết thúc quá trình thực thi dịch vụ. Và ở giữa, chúng ta có thể thấy các nhật ký mà chúng ta đưa vào hàm bằng các câu lệnh nhật ký ở cấp INFO. Chúng ta thấy:
- Thông tin chi tiết về sự kiện kích hoạt hàm của chúng ta,
- Kết quả thô từ lệnh gọi Vision API,
- Các nhãn được tìm thấy trong bức ảnh mà chúng tôi đã tải lên,
- Thông tin về màu chủ đạo,
- Liệu bức ảnh có an toàn để hiển thị hay không,
- Và cuối cùng, những siêu dữ liệu đó về bức ảnh đã được lưu trữ trong Firestore.
Bạn sẽ lặp lại quy trình này cho dịch vụ image-analysis-native.
Trong trình đơn "hamburger" (☰), hãy chuyển đến dịch vụ Cloud Run > image-analysis-native.
Nhấp vào Nhật ký và quan sát kết quả:
Bây giờ, bạn sẽ muốn quan sát xem siêu dữ liệu hình ảnh đã được lưu trữ trong Fiorestore hay chưa.
Trong trình đơn "bánh hamburger" (☰), hãy chuyển đến phần Firestore. Trong mục con Data (hiển thị theo mặc định), bạn sẽ thấy bộ sưu tập pictures có một tài liệu mới được thêm vào, tương ứng với bức ảnh bạn vừa tải lên:
15. Dọn dẹp (Không bắt buộc)
Nếu không có ý định tiếp tục với các phòng thí nghiệm khác trong loạt bài này, bạn có thể dọn dẹp tài nguyên để tiết kiệm chi phí và trở thành một công dân đám mây tốt. Bạn có thể dọn dẹp từng tài nguyên riêng lẻ như sau.
Xoá bộ chứa:
gsutil rb gs://${BUCKET_PICTURES}
Xoá hàm:
gcloud functions delete picture-uploaded --region europe-west1 -q
Xoá bộ sưu tập Firestore bằng cách chọn Xoá bộ sưu tập trong bộ sưu tập:
Ngoài ra, bạn có thể xoá toàn bộ dự án:
gcloud projects delete ${GOOGLE_CLOUD_PROJECT}
16. Xin chúc mừng!
Xin chúc mừng! Bạn đã triển khai thành công dịch vụ mã khoá đầu tiên của dự án!
Nội dung đã đề cập
- Cloud Storage
- Cloud Run
- Cloud Vision API
- Cloud Firestore
- Hình ảnh Java gốc