There is a “phenomenon” that I have experienced through my career that I like to call the “Reference Architecture Disappointment”.
It is a similar effect some people would experiment when they go to the MD´s consultation with several symptoms, just to find out that they may have a common cold. No frenzy at the Hospital, no crazy consultations, no House MD´s TV scenes. Just paracetamol, water and rest!
So many years of Medicine School just to prescribe that?
Well, yes. The MD was able to recognize a common cold between dozen of illnesses with the same set of symptoms, and prescribed the simplest and best treatment. Question is, would you be able to do it?
Same thing when a Solutions Architect deals with a set of requirements. The “Architect” will select the best architecture that solves a business problem, in the simplest and efficient manner possible. That means – sometimes – to use the “Reference Architecture” for that particular problem, with the necessary changes.
Those architectures emerge from practical experience and encompass patterns and best practices. Usually reinventing the wheel is just not a good idea.
The autumn equinox has just passed, which is a perfect moment to look back, and review some of the features released in this last summer by AWS – in no particular order, just because I think they are cool – and useful 🙂
Serverless challenges
If you´ve been developing serverless applications for a while, pretty sure you have found yourself facing a few challenges, apart from the old cold start thing – which have been solved to a great extent with the Provisioned Concurrency feature.
For instance, let’s say you need to load large files of rules consumed by a Lambda function, that implements a rules engine, or you need to keep data files produced dynamically by the function between invocations. Lambda provides some local space – 512MB – that you may use, but it’s small and ephemeral, so is not useful for those kinds of scenarios.
Other solutions come to mind: storing in databases – RDS, DynamoDB,S3 … but comes with a high price of development, performance and cost. What would happen if we had peaks of several hundreds – or thousands requests – per second, loading big files in the startup and writing files to a data store concurrently?
Well, at the very least, we could have a big performance hit, depending on the size of the files, the latency of retrieving the files at startup + the cold start of Lambdas – enter provisioned concurrency – plus the latency of storing the intermediate files to the datastores – it’s not the same storing and retrieving from S3 than from DynamoDB.
So no alternative? Well, we are in luck, as AWS released EFS support for Lambda in June!
Image property of AWS
Amazon EFS is widely known, so I’m not going to delve depth into the service, but just to mention that AmazonElastic File Service provides a NFS file system that escalates on demand, providing high throughput and low latency. It’s very useful when shared storage, and a parallel access from the services it´s needed.
Configuration & Considerations
“With power comes responsibility”, or in our case with powerful features come some configuration constraints. EFS runs in different subnets within a VPC, which means that our Lambda functions have to run within a VPC as well. That comes with a price: IP directioning, possible performance hit, loss of connection to AWS global services, therefore a NAT Gateway or Private Links / Gateway might need to be used, depending on the use case.
That constraint was vastly improved last year when Hyperplane ENI for Lambda was released, allowing that just a few ENI´s – and therefore a few IP´s – would be enough to handle a big number of Lambda invocations, decoupling function scaling from ENI´s provisioning.
Configuration – Serverless Framework
The configuration of a Lambda function running within a VPC could be fairly simple – if only needs to access the VPC resources – as in shown in the image below – under the vpc label:
Serverless framework YAML – Image MNube.org
A security group is needed for the Lambda function, the ID´s of subnet(s) where the ENI(s) will be placed, and permissións to create, delete, and describe network interfaces.
VPC Lambda – Image MNube.org
The Lambda function is running within our VPC now, an ENI placed in each subnet selected, but in order to access the EFS instance a few permissións will need to be provided:
Role permissións EFS, Lambda – Image MNube.org
Now the EFS can be created within the VPC. In order to do that, the console, Cloudformation, Serverless, AWS CLI, AWS SDK, etc … could be used.
EFS instance – Image MNube.org
After creating the instance, an access point needs to be provided to allow applications access. This is a new resource: “AWS::EFS::AccessPoint”. It can be created from the console, or through a cloudformation file – we will need to supply the EFS ID: ${self.provider}.
Serverless framework YAML – Image MNube.org
Finally, we link the file system to the Lambda Function, providing the arn of the EFS, the arn of the access point, and the local mounted path – as shown on the image below:
Image MNube.org
The EFS instance is ready to be accessed by the Lambda function 🙂
Solution
I have used the Serverless framework to produce the solution – but AWS SAMwith Cloud 9 as the official alternative could have been used instead. I have quite experience with Serverless, having introduced it to a few companies – including Everis – with big success.
Architecture – MNube.org
Let’s create – or transfer – a rules file that can be accessed from the Lambda function 🙂
Different services could be used to transfer the files, like AWS DataSync, an EC2 instance, or even creating files from code. The files we might transfer from EC2 are accessible from the Lambda functions, so we´ll use this method.
After the EC2 instance has been created – a t2.micro is enough – in one of the subnets of the VPC that has access to the EFS ENI´s, a directory we´ll be needed – /efs. That directory doesn’t have any link to the EFS instance, so we´ll need to mount the directory.
One way to do it is using the EFS tools:
sudo yum install -y amazon-efs-utils
An access point was created previously that we can use to mount the directory. It’s easy to get the command line needed from the web console. Just go to to the Amazon EFS > Access Point > id link, and press the Attach button:
EFS Mount – Image MNube.org
After mounting the directory – in green – the files can be transfer to the/efs directory:
Mounting and creating files – Image MNube.org
At this point, the access to the directory from the Lambda function should be fully possible. I have coded a minimum Lambda function that lists the files contained in the directory:
Lambda function – Image MNube.org
The solution is now ready to be deployed. Keep in mind that I have only shown parts of the serverless.yml, equivalent to the cloudformation file you might use to provide the infrastructure – I will leave that to you as an exercise.
serverless deploy --stage dev --region eu-west-1
Serverless Stack – Image MNube.org
An URL link is provided by the framework, as I created an API gateway that invokes the Lambda function:
Cloudwatch Logs – Image from MNUBE.org
I have captured the request trace from the Cloudwatch Logs, where we can see the files in /efs: test.txt and rules.txt, and the low latency of the request.
Other Use Cases
Loading big libraries that Lambda layers can´t handle.
Files that are updated regularly.
Files that need locks for concurrent access.
Access to big files – zip / unzip.
Using different computing architectures – EC2, ECS – to process the same files.
I have recently recalled my first experience with GCP. It was in London, shortly before the 2012 Olympics, in an online gaming project, initially thought for AWS, that was migrated to App Engine – PAAS platform that would evolve to the current GCP.
My initial impression was good, although the platform imposed a number of development limitations, which would be reduced later with the release of App Engine Flexible.
Coinciding with the launch of Tensor Flow as an Open Source framework in 2015, I was lucky enough to attend a workshop on neural networks – given by one of the AI scientists from Google Seattle – where I had my second experience with the platform. I was very surprised by the simplicity of configuration and deployment, the NoOps concept and a Machine Learning / AI offering, without competition at the time.
Do Androids Dream of Electric Sheep? Philip K. Dick would have “hallucinated” with the electrical dreams of neural networks – powered by Tensor Flow.
Exam
The structure of the exam is the usual one in GCP exams: 2 hours and 50 questions, with a format directed towards scenario-type questions, mixing questions of high difficulty with simpler ones of medium-low difficulty.
In general, to choose the correct answer, you have to apply technical and business criteria. Therefore, it is necessary a deep knowledge of the services from the technological point of view, as well as skill / experience to apply the business criteria in a contextual way, depending on the question, type of environment, sector, application, etc .. .
Image #1, Data Lake, the ubiquitous architecture – Image owned by GCP
We can group the relevant services according to the states (and substates) of the data cycle:
At this level of certification, the questions do not refer, in general, to a single topic. That is, a question from the Analytics domain may require more or less advanced knowledge of Computing, Security, Networking or DevOps to be able to solve it successfully. I´d recommend having the GCP Associate Cloud Engineer certification or have equivalent knowledge.
GCP experience at the architectural level. The exam is focused, in part, on the architecture solution, design and deployment of data pipelines; selection of technologies to solve business problems, and to a lesser extent development. I´d recommend studying as many reference architectures as possible, such as the ones I show in this guide.
GCP experience at the development level. Although no explicit programming questions appeared in my question set, or in the mock test, the exam requires technical knowledge of services and APIS: SQL, Python, REST, algorithms, Map-Reduce, Spark, Apache Beam (Dataflow) …
GCP experience at Security level. Domain that appears transversally in all certifications – I´d recommend knowledge at the level of Associate Engineer.
GCP experience at Networking level. Another domain that appears transversely – I´d recommend knowledge at the level of Associate Engineer.
Knowledge of Data Analytics. It’s a no-brainer, but some domain knowledge is essential. Otherwise, I´d recommend studying books like “Data Analytics with Hadoop” or taking courses like Specialized Program: Data Engineering, Big Data and ML on Google Cloud in Coursera. Likewise, practicing with laboratories or pet projects is essential to obtain some practical experience.
Knowledge of the Hadoop – Spark ecosystem. Connected with the previous point. High-level knowledge of the ecosystem is necessary: Map Reduce, Spark, Hive, Hdfs, Pig …
Knowledge of Machine Learning and IoT. Advanced knowledge in Data Science and Machine Learning is essential, apart from specific knowledge of GCP products. There are questions exclusively about this domain – at the level of certifications like AWS Machine Learning or higher. IoT appears on the exam in a lighter form, but it is essential to know the architecture and services of reference.
DevOps experience. Concepts such as CI / CD, infrastructure or configuration as code, are of great importance today, and this is reflected in the exam, although they do not have a great specific weight.
Standard questions
Representative question of the level of difficulty of the exam.
Image property of GCP
Practical migration scenario question, that includes cloud services and the Hadoop ecosystem, as well as concepts from the Analytics domain.
Services to study in detail
Image #2 – property of GCP
Cloud Storage – Core service that appears consistently in all certifications, and is central in the Data Lake systems. I´d recommend its study in detail at an architectural level – see Image 1 -, configurations according to the data temperature, and as an integration / storage element between the different services
BigQuery – Core service in the Analytics GCP domain as a BI and storage element. Extremely important in the exam, so have to be studied in detail: architecture, configuration, backups, export / import, streaming, batch, security, partitioning, sharding, projects, datasets, views, integration with other services, cost, queries and optimization SQL (legacy and standard) at table levels, keys …
Pub / Sub – Core service as an element of ingestion and integration. Its in-depth study is highly recommended: use cases, architecture, configuration, API, security and integration with other services (eg Dataflow, Cloud Storage) – Kafka’s native cloud mirror service.
Dataflow – Core service in the Analytics GCP domain as a process and transformation element. Implementation based on Apache Beam that is necessary to know at a high level and pipeline design. Use cases, architecture, configuration, API and integration with other services.
Dataproc – Core service in the Analytics GCP domain as a process and transformation element. It is a service based on Hadoop, and therefore, it is the indicated service for a migration to the cloud. In this case, not only knowledge of Dataproc is required, but also in native services: Spark, HDFS, HBase, Pig … use cases, architecture, configuration, import / export, reliability, optimization, cost, API and integration with other services.
Cloud SQL, Cloud Spanner – Cloud native relational databases. Use cases, architecture, configuration, security, performance, reliability, cost and optimization: clusters, transactionality, disaster recovery, backups, export / import, SQL performance and optimization, tables, queries, keys and debugging. Integration with other services.
Cloud Bigtable – Low latency NoSQL managed database, suitable for time series, IoT… ideal to replace a HBase installation on premise. Use cases, architecture, configuration, security, performance, reliability and optimization: clusters, CAP, backups, export / import, partitioning, performance, and optimization of tables, queries, keys. Integration with other services.
Machine Learning – One of the strengths of the certification is the domain “Operationalizing machine learning models”. Much more dense and complex than it may seem at first, since it not only includes the operability and knowledge of the relevant GCP services; likewise, it includes the knowledge of the Data Science fundamentals: algorithm selection, optimization, metrics … The level of difficulty of the questions is variable, but comparable to that of specific certifications, such as AWS Certified Machine Learning – Specialty. Most important services: BigQuery ML, Cloud Vision API, Cloud Video Intelligence, Cloud AutoML, Tensor Flow, Dialogflow, GPU´s, TPU´s …
Security – Security is a transversal concern across all domains, and appears consistently in all certifications. In this case, it appears as an independent technical topic, crosscutting concern or as a business requirement: KMS, IAM, Policies, Roles, Encryption, Data Prevention API …
Image #3, IoT Reference Architecture – owned by GCP
Very important services to consider
Networking – Cross-domain that can appear in the form of separate technical issues, cross cutting concerns, or as business requirements: VPC, Direct Interconnect, Multi Region / Zone, Hybrid connectivity, Firewall rules, Load Balancing, Network Security, Container Networking, API Access ( private / public) …
Hadoop – The exam covers ecosystems and third-party services like Hadoop, Spark, HDFS, Hive, Pig … use cases, architecture, functionality, integration and migration to GCP.
Apache Kafka – Alternative service to Pub / Sub, so it is advisable to study it at a high level: use cases, operational characteristics, configuration, migration and integration with GCP – plugins, connectors.
IoT – It can appear in various questions at the architectural level: use cases, reference architecture and integration with other services. IoT core, Edge Computing.
Datastore / Firebase – Document database. Use cases, configuration, performance, entity model, keys and index optimization, transactions, backups, export / import and integration with other services. It doesn’t carry as much weight as the other data repositories.
Cloud Memory Store / Redis – Structured data cache repository. Use cases, architecture, configuration, performance, reliability and optimization: clusters, backups, export / import and integration with other services.
Cloud Dataprep – Use cases, console and general operation, supported formats, and Dataflow integration.
Cloud Stackdriver – Use cases, monitoring and logging, both at the system and application level: Cloud Stackdriver Logging, Cloud Stackdriver Monitoring, Stackdriver Agent and plugins.
Other services
MongoDB, Cassandra – NoSQL databases that can appear in different scenarios. Use cases, architecture and integration with other services.
Cloud Composer – Use cases, general operation and web console, configuration of diagram types, supported formats, import / export, integration with other services, connectors.
Cloud Data Studio – Use cases, configuration, networking, security, general operation and environment, and integration with other services.
Cloud Data Lab – Use cases, general operation and web console, types of diagrams, supported formats, import / export and integration with other services.
Kubernetes Engine – Use cases, architecture, clustering and integration with other services.
Kubeflow – Use cases, architecture, environment configuration, Kubernetes.
Apache Airflow – Use cases, architecture and general operation.
Cloud Functions –Use cases, architecture, configuration and integration with other services – such as Cloud Storage and Pub / Sub, in Push / Pull mode.
Compute Engine – Use cases, architecture, configuration, high availability, reliability and integration with other services.
App Engine – Use cases, architecture and integration with other services.
Bibliography & essential resources
Google provides a large number of resources for the preparation of this certification, in the form of courses, official guide book, documentation and mock exams. These resources are highly recommended, and in some cases, I would say essential.
Bibliography (selection) that I have used for the preparation of the certification
As I have previously indicated, I find the Google courses on Coursera to be excellent, as they combine a series of short videos, reading material, labs, and test questions, thus creating a very dynamic experience. In any case, they should only be considered as a starting point, being necessary the deepening – according to experience – in each one of the domains using, for instance, the excellent GCP documentation.
But you should not limit yourself to online courses. I can’t hide the fact that I love books in general, and IT books in particular. In fact, I have a huge collection of books dating back to the 80s, which at some point I will donate to a local Cervantina bookstore.
Books provide a deeper and more dynamic experience than videos, which can be a bit monotonous if they are too long – as well as being a much more passive experience – like watching TV. The ideal is the combination of audiovisual and written media, thus creating your own learning path.
Image #4 – Data Lake based upon Cloud Storage – owned by GCP
Part of the job as a Data Engineer consists of creating, integrating, deploying and maintaining data pipelines, both in batch and streaming mode.
The Data Engineering Quest contains several labs that introduce the creation of different data transformation, IoT, and Machine Learning pipelines, so I find them excellent exercises – and not just for certification.
Is it worth it?
The level of certification is advanced, and in general, it should not be the first cloud certification to obtain. It covers a large amount of material and domains, so tackling it without a certain level of prior knowledge can be quite a complex task.
If we compare it with the mirror certification on the AWS platform, it covers almost twice as much material, mainly due to the inclusion of questions about the Machine Learning / Data Science domain – which in the case of AWS have been eliminated, to be included in its own certification. Therefore, it is like taking two certifications in one.
Is it worth? of course, but not as a first certification – depending on the experience provided.
Certifications are a good way, not only to validate knowledge externally, but to collect updated information,validate good practices and consolidate knowledge with real practical cases (or almost).
Hace poco tiempo recordé mi primera experiencia con GCP. Fue en Londres, poco antes de las Olimpiadas de 2012, en un proyecto del ámbito online gaming, inicialmente pensado para AWS que fue migrado a App Engine – plataforma PAAS que evolucionaría a la actual GCP.
Mi impresión inicial fue buena, aunque la plataforma imponía un cierto número de limitaciones al desarrollo, que serían reducidas posteriormente con el lanzamiento de App Engine Flexible.
Coincidiendo con el lanzamiento de Tensor Flowcomo framework Open Source en 2015, tuve la suerte de asistir a un workshop sobre redes neuronales – impartido por uno de los científicos AI de Google Seattle – donde tuve mi segunda experiencia con la plataforma. Quedé muy sorprendido por la simplicidad de configuración y despliegue, el concepto NoOps y una oferta de Machine Learning/ AI, sin competencia en aquel momento.
¿Sueñan los androides con ovejas eléctricas? Philip K. Dick habría “alucinado” con los sueños eléctricos de las redes neuronales – alimentadas por Tensor Flow.
Examen
La estructura del examen es la habitual en los exámenes de GCP: 2 horas y 50 preguntas, con un formato definitivamente dirigido hacia las preguntas tipo escenario, mezclando preguntas de dificultad alta, con otras más sencillas de dificultad media – baja.
En general, para seleccionar la respuesta correcta hay que aplicar criterios técnicos y de negocio. Es necesario, por tanto, un conocimiento profundo de los servicios desde el punto de vista tecnológico, así como destreza / experiencia para aplicar los criterios de negocio de forma contextual, según pregunta, tipo de entorno, sector, aplicación etc …
Imagen 1, Data Lake, la arquitectura ubicua – Imágen propiedad de GCP
Podemos agrupar los servicios relevantes según los estados (y subestados) del ciclo del dato:
Ingestión, Almacenamiento, Transformación y Análisis.
Optimización: Control de costes, Autoscaling, Preemptive instances …
Pre-requisitos y recomendaciones
A este nivel de certificación las preguntas no se refieren, en general, a un solo tópico. Es decir, una pregunta del dominio Analytics puede requerir conocimientos más o menos avanzados de Computación, Seguridad, Networking o DevOps para poder resolverla con éxito. Recomiendo estar en posesión de la certificación GCP Associate Cloud Engineer o tener conocimientos equivalentes.
Experiencia GCP a nivel arquitectural. El examen está enfocado, en parte, a la solución de arquitectura, diseño y despliegue de pipelines de datos; selección de tecnologías para solucionar problemas de negocio, y en menor medida al desarrollo. Recomiendo el estudio del mayor número posible de arquitecturas de referencia, como las que muestro en la presente guía.
Experiencia GCP a nivel desarrollo. Aunque en mi set de preguntas, y en el examen de prueba, no aparecen preguntas explícitas de programación, el examen requiere conocimiento a nivel técnico de servicios y de APIS: SQL, Python, REST, algoritmos, Map-Reduce, Spark, Apache Beam (Dataflow) …
Experiencia GCP a nivel Seguridad. Dominio presente de forma transversal en casi todas las certificaciones. Recomiendo conocimientos (al menos) a nivel de Associate Engineer.
Experiencia GCP a nivel Networking. Otro dominio presente de forma transversal. Recomiendo conocimientos (al menos) a nivel de Associate Engineer.
Conocimientos de Data Analytics. Es una obviedad, pero es imprescindible conocimiento del dominio. En caso contrario, recomiendo estudiar libros como “Data Analytics with Hadoop” o realizar cursos como Programa especializado: Data Engineering, Big Data and ML on Google Cloud en Español. Así mismo, realizar laboratorios o proyectos pet, para obtener cierta experiencia práctica.
Conocimientos del ecosistema Hadoop – Spark, conectado con el punto anterior. Son necesarios conocimientos a alto nivel del ecosistema: Map Reduce, Spark, Hive, Hdfs, Pig, …
Conocimientos de Machine Learning e IoT. Imprescindible conocimientos avanzados en Data Science y Machine Learning, aparte del conocimiento específico de los productos de GCP. Hay preguntas exclusivamente sobre este dominio – al nivel de certificaciones como AWS Machine Learning o superior. IoT aparece en el examen de una forma más ligera, pero es imprescindible conocer la arquitectura y servicios de referencia.
Experiencia DevOps. Conceptos como CI/CD, infraestructura o configuración como código, son de gran importancia en la actualidad, y así se refleja en el examen, aunque no tiene un gran peso específico.
Preguntas tipo
Pregunta representativa del nivel de dificultad del examen.
Imagen propiedad de GCP
Escenario práctico de migración donde se incluyen servicios cloud y del ecosistema Hadoop, así como conceptos propios del dominio Analytics.
Servicios a estudiar de forma detallada
Imagen 2 – propiedad de GCP
Cloud Storage – Servicio core que aparece de forma consistente en todas las certificaciones, y figura central en los entonor denominados Data Lake. Recomiendo su estudio en detalle a nivel arquitectural – ver Imagen 1 – configuraciones según la temperatura del dato, y como elemento de integración / almacenamiento entre los diferentes servicios
BigQuery – Servicio central en el dominio Analytics GCP como elemento de BI y almacenamiento. Fundamental en el examen, por lo que es conveniente estudiarlo en detalle: arquitectura, configuración, backups, export/import, streaming, batch, seguridad, partitioning, sharding, proyectos, datasets, vistas, integración con otros servicios, coste, querys y optimización SQL (legacy y standard) a niveles de tablas, keys …
Pub / Sub – Servicio central como elemento de ingesta y de integración. Su estudio en profundidad es muy recomendable: casos de uso, arquitectura, configuración, API, seguridad e integración con otros servicios (p.e Dataflow, Cloud Storage) – servicio “mirror” cloud nativo de Kafka.
Dataflow – Servicio central en el dominio Analytics GCP como elemento de proceso y transformación. Implementación basada en Apache Beam que es necesario conocer a alto nivel y de diseño de pipelines. Casos de uso, arquitectura, configuración, API e integración con otros servicios.
Dataproc – Servicio central en el dominio Analytics GCP como elemento de proceso y transformación. Es un servicio basado en Hadoop, y por lo tanto, es el servicio indicado para una migración al cloud. En este caso, no solo son necesarios conocimientos de Dataproc, sino también en los servicios nativos: Spark, HDFS, HBase, Pig… casos de uso, arquitectura, configuración, import/export, reliability, optimización, coste, API e integración con otros servicios.
Cloud SQL, Cloud Spanner – Bases de datos relacionales nativas cloud. Casos de uso, arquitectura, configuración, seguridad, performance, reliability, coste y optimización: clusters, transaccionalidad, disaster recovery, backups, export/import, performance y optimización SQL, tablas, queries, keys y depuración. Integración con otros servicios.
Cloud Bigtable – Base de datos manejada NoSQL de baja latencia, indicada para time series, IoT, … ideal para reemplazar una instalación HBase on premise. Casos de uso, arquitectura, configuración, seguridad, performance, reliability y optimización: clusters, CAP, backups, export/import, partitioning, performance, y optimización de tablas, queries, keys. Integración con otros servicios.
Machine Learning – Uno de los puntos fuertes de la certificación es el dominio “Operationalizing machine learning models”. Mucho más denso y complejo de lo que puede parecer en un principio, ya que no solo incluye la operatividad y el conocimiento de los servicios relevantes de GCP; así mismo, incluye el manejo a nivel conceptual de los fundamentos Data Science: selección de algoritmos, optimización, métricas … El nivel de dificultad de las preguntas es variable, pero comparable al de certificaciones específicas, como AWS Certified Machine Learning – Specialty. Servicios más importantes: BigQuery ML, Cloud Vision API, Cloud Video Intelligence, Cloud AutoML,Tensorflow, Dialogflow, GPU´s, TPU´s …
Security – La Seguridad es transversal a todos los dominios, y aparece de forma consistente en todas las certificaciones. Es este caso, aparece como tópico técnico independiente, crosscutting concern o como business requirement: KMS, IAM, Policies, Roles, Encriptación, Data Prevention API …
Imagen 3 – IoT Arquitectura de Referencia – propiedad de GCP
Servicios muy importantes a tener en cuenta
Networking – Dominio transversal que puede aparecer en forma de cuestiones técnicas independientes, cross cutting concerns o como business requirements: VPC, Direct Interconnect, Multi Region / Zone, Hybrid connectivity, Firewall rules, Load Balancing, Network Security, Container Networking, API Access (private / public) …
Hadoop – El examen cubre ecosistemas y servicios de terceros como Hadoop, Spark, HDFS, Hive, Pig… casos de uso, arquitectura, funcionalidad, integración y migración a GCP.
Apache Kafka – Servicio alternativo a Pub/Sub, por lo que es recomendable estudiarlo a alto nivel: casos de uso, características operacionales, configuración, migración e integración con GCP – plugins, conectores.
IoT – Puede aparecer en varias preguntas a nivel arquitectural: casos de uso, arquitectura de referencia e integración con otros servicios. IoT core, Edge Computing.
Datastore / Firebase – Repositorio NoSQL tipo documental. Casos de uso, configuración, performance, modelo de entidades, keys y optimización de índices, transaccionalidad, backups, export/import e integración con otros servicios. No tiene tanto peso como los otros repositorios de datos.
Cloud Memory Store / Redis – Repositorio tipo caché de datos estructurados. Casos de uso, arquitectura, configuración, performance, reliability y optimización: clusters, backups, export/import e integración con otros servicios.
Cloud Dataprep – Casos de uso, funcionamiento a nivel general y consola, formatos admitidos e integración con Dataflow.
Cloud Stackdriver – Casos de uso, monitorización y logging, tanto a nivel de sistema como aplicación: Cloud Stackdriver Logging, Cloud Stackdriver Monitoring, Stackdriver Agent y plugins.
Otros servicios
MongoDB, Cassandra – Bases de datos NoSQL que pueden aparecer en distintos escenarios . Casos de uso, arquitectura e integración con otros servicios.
Cloud Composer – Casos de uso, funcionamiento a nivel general y consola web, configuración tipos de diagramas, formatos admitidos, import / export, integración con otros servicios, conectores.
Cloud Data Studio – Casos de uso, configuración, networking, seguridad, funcionamiento a nivel general y entorno e integración con otros servicios.
Cloud Data Lab – Casos de uso, funcionamiento a nivel general y consola web, tipos de diagramas, formatos admitidos, import / export e integración con otros servicios.
Kubernetes Engine – Casos de uso, arquitectura, clustering e integración con otros servicios.
Kubeflow – Casos de uso, arquitectura, configuración entorno, Kubernetes.
Apache Airflow – Casos de uso, arquitectura y funcionamiento general.
Cloud Functions –Casos de uso, arquitectura, configuración e integración con otros servicios – como Cloud Storage y Pub/Sub, en modo Push / Pull.
Compute Engine – Casos de uso, arquitectura, configuración, high availability, reliability e integración con otros servicios.
App Engine – Casos de uso, arquitectura e integración con otros servicios.
Bibliografía & recursos esenciales
Googleproporciona una gran cantidad de recursos para la preparación de esta certificación, en forma de cursos, libro guía oficial, documentación y exámenes de prueba. Estos recursos son muy recomendables, y en algunos casos, diría que esenciales.
El Curso de Preparación para la certificación, contenido en el Programa Especializado Data Engineering disponible en Coursera, incluye un examen extra, y una gran cantidad de consejos y materiales adicionales, así como laboratorios – utilizando la herramienta externa Qwik Labs.
Bibliografía (selección) que he utilizado para la preparación de la certificación
Como he indicado previamente, los cursos de Google en Coursera me parecen excelentes, ya que combinan una serie de videos cortos, material de lectura, laboratoriosy preguntas de prueba, creando de esta manera una experiencia muy dinámica. De cualquier forma, deben considerarse solamente como punto de partida, siendo necesaria la profundización – según experiencia – en cada uno de los dominios utilizando, por ejemplo, la excelente documentación de GCP.
Pero no solo de documentación y cursos vive el hombre. No puedo ocultar que me encantan los libros en general, y los libros de IT en particular. De hecho, poseo una enorme colección de libros que data desde los años 80s, que en algún momento donaré a librería Cervantina local.
Los libros proporcionan una experiencia más profunda y dinámicaque los vídeos, que pueden resultar un poco monótonos si son de larga duración – además de ser una experiencia mucho más pasiva – como ver TV. Lo ideal es la combinación de medios audiovisuales y escritos, creando así tu propio camino de aprendizaje.
Imagen 4 – Data Lake basado en Cloud Storage – propiedad de GCP
Parte del trabajo como Data Engineer consiste en la creación, integración, despliegue y mantenimiento de pipelines de datos, tanto en modalidad batch como streaming.
Data Engineering Quest contiene varios laboratorios que introducen a la creación de distintas pipelines de transformación de datos, IoT y Machine Learning, por lo que me parecen excelentes ejercicios – y no solo de cara a la certificación.
¿Merece la pena?
El nivel de la certificación es avanzado, y en general, no debería ser la primera certificación del ámbito cloud a obtener. Abarcagran cantidad de material y dominios, por lo que afrontarla sin un cierto nivel de conocimientos previos, puede ser una tarea bastante compleja.
Si la comparamos con la certificación espejo en la plataforma AWS, cubre casi el doble de material, debido sobre todo a la inclusión de preguntas sobre el dominio Machine Learning / Data Science – que en el caso de AWS han sido eliminadas para pasar a su propia certificación. Por tanto, es como tomar dos certificaciones en una sola.
¿Merece la pena? desde luego, pero no como una primera certificación – dependiendo de la experiencia aportada.
Las certificaciones son un buen modo, no solo de validar los conocimientos de forma externa, sino de recopilar información actualizada, validar buenas prácticas y consolidar conocimientos con casos prácticos reales (o casi).
I’m going to share my recent experience with the re-certification – June 2020 – AWS Developer, one of my favorites, without a doubt. An experience that has been very different from the previous one, since, if my memory serves me well, I didn’t find any repeated question.
The structure of the exam is the usual one for the associated level: 2 hours and 65 questions, with an evolved format, even more, towards scenario-type questions. I don’t recall any direct questions, and certainly not extremely easy ones. That said, it seems to me to be a much more balanced exam than the previous version, where some services had much more weight than others – API gateway, I’m looking at you.
Virtually all Core / Serverless services – important ones – are represented in the exam:
S3
In Memory Databases: Elastic Cache, Memcache, Redis
Databases: RDS, DynamoDB …
Security: KMS, Policies ..
CI / CD, IAC: ElasticBeanstalk, Codepipeline, Cloudformation …
Serverless: Lambda functions, API Gateway, Cognito …
Developer is the Serverless certification par excellence, although some services, such as Step Functions or Fargate Containers, are poorly represented – just one or two questions, and of high difficulty.
Serverless is a great option for IoT Sytems
Prerequisites and recommendations
I will not repeat the information that is already available on the AWS website; instead, I will give my recommendations and personal observations.
Professionals with experience in Serverless development – especially in AWS – Microservices, or experience with React-type applications, will be the most comfortable when preparing and facing this certification.
AWS Experience. Certification indicated for professionals with little or no experience on AWS. I´d recommend getting the AWS Certified Cloud Practitioner, though.
Dev Experience. It’s essential to possess a certain level, since many of the questions are eminently practical, and are the result of experience in the development field. Knowledge of programming languages like Python, Javascript or Java is something very desirable. The exam poses programming problems indirectly, through concepts, debugging and optimization. The lack of this knowledge or experience generates the impression in many professionals that this certification is of a very high level of difficulty, when in my opinion it is not.
Architecture experience. The exam is largely focused on the development of Cloud applications, especially Serverless – Microservices. However, some questions may require knowledge at the Cloud / Serverless / Containers architecture pattern level.
DevOps Experience. Concepts such as CI / CD, infrastructure or configuration as code are of great importance today, and this is reflected in the exam. Obviously, the questions focus – for the most part – on AWS products, but knowledge of other products like Docker, Jenkins, Spinaker, Git and general principles can go a long way. Let’s not forget that this certification, together with SysOps, are part of the recommended path to obtain the AWS DevOps Pro certification, and obtaining them automatically re-certifies the two previously mentioned.
“Neo, knowing the path is not the same as walking it” – Morpheus. The Matrix, 1999
Developing on AWS: course focused on developing AWS applications using the SDK. It is intermediate level, and the agenda seems quite relevant to the certification. Live remote or in person. Not free.
Advanced Developing on AWS: interesting course, but focused on AWS Architecture: migrations, re-architecture, microservices .. Live remote or face-to-face. Not free.
AWS Certified Cloud Practitioner: Official certification, especially aimed at professionals with little knowledge of the Cloud in general, and AWS in particular.
Exam
As I have previously commented, the exam format is similar to most certifications, associated or not. That is, “scenario based”, and in this case of medium difficulty, medium-high. You are not going to find “direct” or excessively simple questions. As it is an associated level exam, each question focuses on a single topic, that is, if the question is about DynamoDB, the question will not contain cross cutting concerns, such as Security, for instance.
Very representative question of the medium – high level of difficulty of the exam. We are talking about a development-oriented certification, so you will find questions about development, APIs, configuration, optimization and debugging. In this case, we are presented with a real example of configuring and designing indexes for a DynamoDB table.
DynamoDB is an integral part of the AWS Serverless offering and the flagship database – with permission from Aurora Serverless. Low latency NOSQL database ideal for IoT, events, time – series etc … Its purely Serverless nature allows its use without the need to provide and manage servers, or the need to place it within a VPC. This fact provides a great advantage when accessing it directly from Lambda functions, since it is not necessary that they would “live” within a VPC, with the added expense of resource management and possible performance problems – “enter Hyperplane”.
DynamoDB hardly appears in the new AWS Databases certification, so I´d recommend that you study it in depth for this certification, due the number of questions that may appear.
Services to study in detail
The following services are of great importance – not just to pass the certification – so I highly recommend in-depth study.
Imagen aws.amazon.com
AWS S3 – Core service. It appears consistently across all certifications. Use cases, security, encryption, API, development and debugging.
Seguridad – It appears consistently in all certifications: KMS encryption, Certificate Manager, AWS Cloud HMS, Federation, Active Directory, IAM, Policies, Roles etc….
AWS Lambda – Use cases, creation, configuration-sizing, deployment, optimization, debugging and monitoring (X-RAY).
AWS API Gateway – Use cases, configuration, API, deployment, security and integration with S3, Cognito and Lambda. Optimization and debugging.
AWS ElastiCache – Use cases, configuration-sizing, API, deployment, security, optimization and debugging. It weighs heavily on the exam – at least in my question set.
AWS Cognito – Use cases, configuration and integration with other Serverless and Federation services. Concepts like SAML, OAUTH, Active Directory etc … are important for the exam.
AWS Cloudformation – Use cases, configuration, creation of scripts, knowledge of the nomenclature / CLI commands.
AWS SQS – Use cases, architecture, configuration, API, security, optimization and debugging. Questions of different difficulty levels may appear.
Very important services to consider
AWS SNS – Knowledge of use cases at architecture level, configuration, endpoints, integration with other Serverless services.
AWS CLI – Average knowledge of different commands and nomenclature. In my set of questions not many appeared, but in any case, it is very positive to have some ease at the console level.
AWS Kinesis – Some more complex questions appear in this version of the exam than in the previous embodiment. Use cases, configuration, sizing, KPL, KCL, API, debugging and monitoring.
AWS CloudWatch, Events, Log – It appears consistently across all certifications. Knowledge of architecture, configuration, metrics, alarms, integration, use cases.
AWS X-RAY – Use cases, configuration, instrumentation and installation in different environments.
AWS Pipeline, CodeBuild, Cloud Deploy, CodeCommit, CodeStar – High-level operation, architecture, integration and use cases. I´d recommend in depth study of CodePipeline and CodeBuild.
AWSEC2, Autoscaling – Use cases, integration with ELB.
AWS Beanstalk – Architecture, use cases, configuration, debugging and deployment types – very important for the exam: All at Once, Rolling etc …
AWS RDS – One of the star services of AWS and the Databases Certification. Here it makes its appearance in a limited way: use cases, configuration, integration – caches – debugging and monitoring.
Other Services
AWS Networking – architecture and basic network knowledge: VPC, security groups, Regions, Zones, VPN … They appear in a general and limited way, compared to the rest of the certifications. It is one of the reasons why this certification is ideal for beginners. Network architecture on AWS can be a very complex and arid topic.
AWS Step Functions – A service widely used in the business environment, but which appears circumstantially in certifications. I recommend studying architecture, use cases and nomenclature – the questions are not easy.
AWS SAM – Use cases, configuration and deployment. SAM CLI Commands.
AWS ECS / Fargate – Its appearance in the certifications is quite disappointing – and more so when compared to Google Cloud´s certifications, where Kubernetes – GKE – has a main role – logical, since it´s Google’s native technology. I´d recommend studying the architecture, use cases – microservices – configuration, integration and monitoring (X-RAY).
AWS Cloudfront – General operation and use cases. Integration with S3.
AWS Glue – General operation and use cases.
AWS EMR –General operation and use cases.
AWS DataPipeline – General operation and use cases.
AWS Cloudtrail – General operation and use cases.
AWS GuardDuty – General operation and use cases.
AWS SecretsManager – General operation and use cases.
Practice Exam – highly recommended, level of difficulty representative of the exam.
Laboratories
I´d like to propose you an incremental practical exercise, cooked by me, that can be useful for preparing for the exam.
Serverless Web App
Imagen aws.amazon.com
Create a static website and host it on S3. Use AWS CLI and APIS to create a bucket and copy the contents.
Create a repository with CodeCommit and upload the files from the Web to it.
Integrate S3 and Cloudfront – creating a Web distribution.
Create a Serverless backend with API Gateway, Lambda and DynamoDB, or alternatively Aurora Serverless, using Cloudformation and the AWS SAM model.
Code the Lambdas functions with one of the supported runtimes – Python, Javascript, Java … – and use BOTO to insert and read in DynamoDB. Each Lambda will correspond to an API Gateway method, accessible from the Web.
Integrate X-Ray to trace Lambdas.
Create the Stack from the console.
Upload the generated YAML´s files to CodeCommit.
Optional: create a pipeline using CodePipeline and CodeCommit.
Optional: integrate Cognito with API Gateway to authenticate, manage, and restrict API usage.
Optional: replace DynamoDB with RDS and integrate Elasticache.
Optional: add a SQS queue, which will be fed from a Lambda. Create another Lambda that consumes the queue periodically.
Is it worth it?
Certifications are a good way, not only to validate knowledge externally, but to collect updated information, validate good practices and consolidate knowledge with real (or almost) practical cases.
Obtaining the AWS Certified Developer seems to me a “no brainer” in most cases, as I explained previously in another post, and in this one.
Voy a compartir mi reciente experiencia con la recertificación – Junio 2020 – AWS Developer, una mis certificaciones favoritas, sin ninguna duda. Una experiencia que ha sido muy distinta a la de la convocatoria anterior, ya que, si mi memoria no me engaña, no encontré ninguna pregunta repetida.
La estructura del examen es la habitual para el nivel asociado: 2 horas y 65 preguntas, con un formato evolucionado, aún más, hacia las preguntas tipo escenario. No recuerdo ninguna pregunta directa, y desde luego, ninguna extremadamente fácil. Dicho esto, me parece un examen bastante más equilibrado que la versión anterior, donde algunos servicios tenían mucho más peso que otros – API gateway, I´m looking at you.
Prácticamente, todos los servicios Core / Serverless – importantes – tienen representación en el examen:
S3
In Memory Databases: Elastic Cache, Memcache, Redis
Bases de datos: RDS, DynamoDB …
Seguridad y encriptación: KMS, Policies ..
Despliegue, Configuración e IAC: ElasticBeanstalk, Codepipeline, Cloudformation …
Serverless: Funciones Lambda, API Gateway, Cognito …
Optimización: Control de costes, Contenedores, Autoscaling, Spot Fleets …
Developer es la certificación Serverless por excelencia, aunque algunos servicios, como Step Functions o Contenedores tipo Fargate, están pobremente representados – apenas una o dos preguntas, y de dificultad elevada.
Serverless es una gran opción para sistemas IoT
Pre-requisitos y recomendaciones
No voy a repetir la información que ya está disponible en la web de AWS; en cambio, voy a dar mis recomendaciones y observaciones personales.
En el siguiente post reflexiono sobre la presente certificación, y cómo debería ser la primera obtenida, en muchos casos:
Profesionales con experiencia en desarrollo Serverless – sobre todo en AWS – Microservicios, o experiencia con aplicaciones de tipo React, son los que más cómodos se encontrarán a la hora de preparar y enfrentarse a esta certificación.
Experiencia AWS. Certificación indicada para aquellos profesionales con poca o ninguna experiencia en AWS. Recomiendo al menos obtener la AWS Certified Cloud Practitioner.
Experiencia en Desarrollo. Imprescindible poseer un cierto nivel, ya que muchas de las preguntas son eminentemente prácticas, y son fruto de la experiencia en el campo de desarrollo. Conocimientos de lenguajes de programación como Python, Javascript o Java es algo muy deseable. El examen plantea problemas de programación de forma indirecta, mediante conceptos, depuración de errores y optimización. La falta de este conocimiento o experiencia, genera la impresión en muchos profesionales que esta certificación es de un nivel de dificultad muy elevada, cuando en mi opinión, no lo es.
Experiencia en Arquitectura. El examen está enfocado en gran parte al desarrollo de aplicaciones Cloud, especialmente Serverless – Microservicios. Sin embargo, algunas preguntas pueden requerir conocimientos a nivel de patrones arquitectura Cloud / Serverless / Containers.
Experiencia DevOps. Conceptos como CI/CD, infraestructura o configuración como código, son de gran importancia en la actualidad, y así se refleja en el examen. Obviamente, las pregunta se centran – mayoritariamente – en productos AWS, pero el conocimiento de otros productos – Docker, Jenkins, Spinaker, Git – y principios generales pueden ser de gran ayuda. No olvidemos que esta certificación, junto con SysOps, forman parte del path recomendado para obtener la certificación AWS DevOps Pro, y su obtención re-certifica automáticamente las dos anteriormente mencionadas.
“Neo, no es lo mismo conocer el camino que recorrerlo” – Morpheus. The Matrix, 1999
Developing on AWS: curso centrado en el desarrollo de aplicaciones AWS usando la SDK. Es de nivel intermedio, y el temario me parece bastante relevante para la certificación. Live remoto o presencial – de pago.
Advanced Developing on AWS: interesante curso, pero centrado en Arquitectura AWS: migraciones, re-arquitectura, microservicios … Live remoto o presencial – de pago.
AWS Certified Cloud Practitioner: certificación oficial AWS, especialmente dirigida a aquellos profesionales con escasos conocimientos sobre Cloud en general, y AWS en particular.
Examen
Como he comentado previamente, el formato del examen es similar a la mayoría de certificaciones, asociadas o no. Es decir, “scenario based”, y en este caso de dificultad media, media-alta. No vais a encontrar preguntas “directas” o excesivamente sencillas. Al ser un examen de nivel asociado cada pregunta se centra en un sólo tópico, es decir, si la pregunta es sobre DynamoDB, la pregunta no contendrá cross cutting concerns, como Seguridad, por ejemplo.
Pregunta muy representativa del nivel de dificultad medio – alto del examen. Estamos hablando de una certificación orientada al desarrollo, por lo que os vais a encontrar con preguntas de carácter técnico, conocimiento profundo de API´s, configuración, optimización y depuración. En este caso, nos plantean un ejemplo real de configuración y diseño de índices para una tabla de DynamoDB.
DynamoDB es parte integral de la oferta Serverless de AWS y la base de datos estrella – con permiso de Aurora Serverless. Base de datos NOSQL de baja latencia ideal para IoT, eventos, time – series etc … Su naturaleza puramente Serverless permite su utilización sin necesidad de proveer y gestionar servidores, o la necesidad de situarla dentro de una VPC. Este hecho proporciona una gran ventaja a la hora de acceder a la misma de forma directa desde funciones Lambda, ya que no es necesario que estas “vivan” dentro de una VPC, con el gasto añadido de gestión de recursos y posibles problemas de rendimiento – “enter Hyperplane“.
DynamoDB apenas aparece en la nueva certificación AWS Databases, por lo que recomiendo su estudio para la presente certificación, por la profundidad y número de preguntas que pueden aparecer.
Servicios a estudiar de forma detallada
Los siguientes servicios son de gran importancia – no solo para aprobar la certificación – por lo que recomiendo su estudio en profundidad.
Imagen aws.amazon.com
AWS S3 – Servicio Core. Aparece de forma consistente en todas las certificaciones. Casos de uso, seguridad, encriptación, API, desarrollo y depuración.
Seguridad: Aparece de forma consistente en todas las certificaciones: encriptación KMS, Certificate Manager, AWS Cloud HMS, Federación, Active Directory, IAM, Policies, Roles etc …
AWS Lambda – Casos de uso, creación, configuración-sizing, despliegue, optimización, depuración y monitorización (X-RAY).
AWS DynamoDB – Casos de uso, creación de tablas, configuración, optimización, índices, API, DAX, DynamoDB Streams.
AWS API Gateway – Casos de uso, configuración, API, despliegue, seguridad e integración con S3, Cognito y Lambda. Optimización y depuración.
AWS ElastiCache – Casos de uso, configuración-sizing, API, despliegue, seguridad, optimización y depuración. Tiene gran peso en el examen – al menos en mi set de preguntas.
AWS Cognito – Casos de uso, configuración e integración con otros servicios Serverless y Federación. Conceptos como SAML, OAUTH, Directorio Activo etc … son importantes para el examen.
AWS Cloudformation – Casos de uso, configuración, creación de scripts, conocimiento de la nomenclatura / comandos CLI.
AWS SQS – Casos de uso, arquitectura, configuración, API, seguridad, optimización y depuración. Pueden aparecer preguntas de diferente nivel de dificultad.
Servicios muy importantes a tener en cuenta
AWS SNS – Conocimientos de casos de uso a nivel arquitectura, configuración, endpoints, integración con otros servicios Serverless.
AWS CLI – Conocimiento medio sobre distintos comandos y nomenclatura. En mi set de preguntas no aparecieron muchas, pero en cualquier caso, es muy positivo tener cierta soltura a nivel consola.
AWS Kinesis – En esta versión del examen aparecen algunas preguntas de mayor complejidad que en la encarnación anterior. Casos de uso, configuración, sizing, KPL, KCL, API, depuración y monitorización.
AWS CloudWatch, Events, Log – Aparece de forma consistente en todas las certificaciones. Conocimientos arquitectura, configuración, métricas, alarmas, integración, casos de uso.
AWS X-RAY – Casos de uso, configuración, instrumentación e instalación en diferentes entornos.
AWS Pipeline, CodeBuild, Cloud Deploy, CodeCommit, CodeStar – Funcionamiento a alto nivel, arquitectura, integración y casos de uso. Recomiendo un estudio más detallado de Pipeline y CodeBuild.
AWS ELB / Certificates – Casos de uso, tipos de ELB, integración, depuración, monitorización, seguridad – instalación de certificados.
AWSEC2, Autoscaling – Parecido al caso interior. Casos de uso, integración con ELB.
AWS Beanstalk – Arquitectura, casos de uso, configuración, depuración y tipos de despliegue – muy importante para el examen: All at Once, Rolling etc …
AWS RDS – Uno de los servicios estrella de AWS y de la Databases Certification. Aquí hace su aparición de forma limitada: casos de uso. configuración, integración – caches – , depuración y monitorización.
Otros servicios
AWS Networking – arquitectura y conocimientos básicos de red: VPC, security groups, Regiones, Zonas, VPN … Aparecen de forma general y limitada, en comparación con el resto de certificaciones. Es una de las razones por la cual esta certificación es ideal para principiantes. La arquitectura de red en AWS puede ser un tema muy complejo y árido.
AWS Step Functions – Un servicio muy utilizado en el entorno empresarial, pero que en las certificaciones aparece de forma circunstancial. Recomiendo estudiar arquitectura, casos de uso y nomenclatura – las preguntas no son sencillas.
AWS SAM – Casos de uso, configuración y despliegue. Comandos SAM CLI.
AWS ECS / Fargate – Su aparición en las certificaciones es bastante decepcionante, y más si lo comparamos con las certificaciones de Google Cloud, donde Kubernetes – GKE – tiene un papel principal – lógico, ya que es una tecnología nativa de Google. Está claro que la estrategia de AWS es otra, ya que los contenedores son unas de las tecnologías más utilizadas hoy en día – obvio espejo de Serverless. Recomiendo estudiar la arquitectura, casos de uso – microservicios – configuración, integración y monitorización (X-RAY).
AWS Cloudfront – Funcionamiento general y casos de uso. Integración con S3.
AWS Glue – Funcionamiento general y casos de uso.
AWS EMR –Funcionamiento general y casos de uso.
AWS DataPipeline – Funcionamiento general y casos de uso.
AWS Cloudtrail – Funcionamiento general y casos de uso.
AWS GuardDuty – Funcionamiento general y casos de uso.
AWS SecretsManager – Funcionamiento general y casos de uso.
Examen de práctica – recomendado, nivel de dificultad representativo del examen.
Laboratorios
Os propongo un ejercicio práctico incremental, de mi propia cosecha, que puede ser de utilidad de cara a la preparación del examen.
Aplicación Web Serverless orientada a Microservicios
Imagen aws.amazon.com
Crear una web estática y alojarla en S3. Utilizar AWS CLI y APIS para crear un bucket y copiar los contenidos.
Crear un repositorio con CodeCommit y subir los ficheros de la Web al mismo.
Integrar S3 y Cloudfront, creando una distribución Web.
Crear un backend Serverless con API Gateway, Lambda y DynamoDB, o en su defecto Aurora Serverless, utilizando Cloudformation y el modelo AWS SAM.
Codificar las Lambdas con uno de los runtimes soportados – Python, Javascript, Java … – y utilizar Boto para insertar y leer en DynamoDB. Cada Lambda se corresponderá con un método de API Gateway, accesibles desde la Web.
Integrar X-Ray para tracear las Lambdas.
Crear el Stack desde desde la consola.
Subir los ficheros YAML´s generados a CodeCommit.
Opcional: crear un pipeline usando CodePipeline y CodeCommit.
Opcional: integrar Cognito con API Gateway para autenticar, gestionar y restringir el uso de la API.
Opcional: sustituir DynamoDB por RDS e integrar ElasticCache.
Opcional: añadir una cola SQS. que será alimentada desde una Lambda. Crear otra Lambda que consuma la cola de forma periódica.
¿Merece la pena?
Las certificaciones son un buen modo, no solo de validar los conocimientos de forma externa, sino de recopilar información actualizada, validar buenas prácticas y consolidar conocimientos con casos prácticos reales (o casi).
La obtención de la AWS Certified Developer me parece un “no brainer” en la mayoría de los casos, como he explicado anteriormente en otro post, y en este mismo.
La certificación AWS Certified Solutions Architect Associate es una de las más demandadas en el universo cloud en general, y del ecosistema AWS en particular. Decenas de cursos, posts y artículos pueden encontrarse en la red, prometiendo grandes salarios y oportunidades profesionales con solo aprobar un examen …
Este interés lo he podido comprobar tanto en mi entorno profesional directo, donde he estado impartiendo una serie de formaciones guiadas, como en el entorno online / networking, dónde recibo un gran número de mensajes, mayoritariamente de profesionales jóvenes con – relativa – poca experiencia en general, y/o en entornos cloud. Se da la circunstancia que muchos de ellos, o ya han obtenido la certificación, o bien quieren saber si la obtención de la misma les va a abrir las puertas del mundo cloud.
La pregunta se auto-contesta simplemente cruzando los mensajes de estos dos grupos. La realidad es que hay un gran número de certificados a nivel mundial y un número limitado de posiciones sin cubrir de estas características. Existe un claro desnivel entre oferta y demanda, que no se había producido en otros momentos históricos de aparición de nuevas tecnologías: JAVA, IOS / Android etc … la demanda se cubría con profesionales de poca experiencia.
Surgen, por tanto, varias preguntas:
¿Hasta qué punto el hype es cierto?, después de todo es un examen de validación profesional.
¿Realmente la obtención un examen de certificación arquitectural es el punto de comienzo ideal para una posible carrera en el sector cloud o tecnológico?
¿Por qué no se cubren los puestos vacantes existentes?
Becoming a Solutions Architect
La Solución de Arquitectura es una disciplina compleja que engloba un conocimiento holístico de varios dominios y áreas de expertise – no solo técnicos: Arquitectura, Seguridad, Infraestructura, Performance, Reliability, Integración, Diseño, Compliance, Stakeholder / Team Management, Cost Control, Patrones etc etc …
Al adentramos en el campo de la Arquitectura Cloud el tema se vuelve todavía más complejo. Prácticamente ningún sistema cloud vive aislado, sino en conjunción con los sistemas “on premise / legacy” tradicionales, a los que complementa, amplía o sustituye parcialmente. Entramos, por tanto, en el mundo de la computación híbrida, donde temas complejos de infraestructura y seguridad – para empezar – , hacen de los proyectos complicados encajes de bolillos, donde el conocimiento combinado cloud + digital o tradicional es imperativo.
Encontrar Arquitectos de Soluciones que tengan menos de 10 a 15 años de experiencia, expertos en diferentes dominios y sectores tecnológicos, es algo complejo. A este rol se llega de forma gradual, mediante un proceso evolutivo y de maduración que dura años. La mayoría de Arquitectos Cloud vienen o de Arquitectura Digital, o del entorno de Administración de Sistemas – orientados a la Arquitectura DevOps, es decir, provienen de un reciclaje progresivo.
Se corresponde con mi propia experiencia.
A partir del año 2010 he participado en distintos proyectos que integran elementos de Arquitectura Cloud, y de esta forma progresiva y proactiva, he ido entrando de lleno en el sector.
Pensemos que este tipo de proyectos no son de tipo aplicación Web, que cumplen un cometido de dominio de negocio muy concreto, y que residen en la infraestructura del cliente. Son proyectos que forman parte integral de la misma, desde backups en S3 hasta plataformas completas core de negocio, que a su vez, pueden contener varias de estas aplicaciones Web. En cualquier caso, requieren como mínimo un estudio de integración, seguridad, infraestructura, costes etc.. incluso para un caso sencillo de Lift & Shift o backups en S3.
Encontramos, por tanto, la causa del desfase entre puestos no ocupados y profesionales certificados. Si en el pasado se contrataban profesionales con limitada experiencia para el desarrollo y arquitectura – sobre todo de aplicaciones Web – este hecho ya no se produce en la actualidad, debido a varios factores. Entre ellos, la maduración de una industria con una creciente complejidad tecnológica y unos sistemas que conforman el “core de negocio” de muchas empresas, los cuales están siendo digitalizados a marchas forzadas.
Podemos realizar una sencilla analogía. En caso de necesitar un cirujano cardiovascular, seguro que preferimos uno que ya haya operado previamente, en distintos casos y pacientes, aunque sea con técnicas tradicionales. Es cuestión “de confianza”.
Más allá del hype
Las certificaciones son una gran manera de validar los conocimientos sobre un dominio por parte de terceros, para dar una confianza añadida de cara al mercado laboral y profesional, así como un medio de actualización y de ampliación de conocimientos.
Imagen propiedad de aws.com
No son ciclos formativos, aunque como vemos en diagrama superior AWS y otros proveedores proporcionan “Learning Paths” para obtener las competencias necesarias para aprobar las diferentes certificaciones.
¿Son suficientes los Learning Paths?
Depende del caso, sobre todo de la experiencia previa y de los objetivos buscados. Pueden ser un punto de inicio válido, o simplemente una manera aprobar unos exámenes bastantes complejos.
AWS Certified Developer, la alternativa
En mi opinión, la certificación que debería ser el punto de partida para la mayoría de profesionales con poca experiencia, y que deseen entrar en el mundo cloud, es AWS Certified Developer.
Las razones son variadas.
Es más sencillo entrar en el mundo cloud a través de proyectos de implementación o de infraestructuras DevOps, que no desde la Solución de Arquitectura. Es un camino mucho más natural, que permite un conocimiento progresivo y más directo del ecosistema, así como su integración con los sistemas “on premise” y sus diferentes dominios – a través de tareas más acotadas y hands on.
La certificación se centra, en gran parte, en los servicios Serverless más conocidos de AWS: funciones Lambda. API Gateway, S3, DynamoDB etc … una área de gran demanda y de una complejidad asumible – a nivel asociado – que puede ser una buena manera de introducirse en el mundo cloud, con resultados prácticos inmediatos – y muy satisfactorios.
La dificultad de esta certificación es de nivel medio si la comparamos con las otras certificaciones del mismo nivel asociado. De hecho, me acabo de re-certificar, y publicaré un post sobre la misma en breve.
Para el grupo de profesionales que quieran conocer a alto nivel AWS y sus productos, la certificación Solutions Architect puede ser un complemento adecuado a la muy básica AWS Cloud Practitioner.
On April 13, the journey of the new AWS Data Analytics Specialty certification officially began – prior to the beta phase in December 2019 / January 2020. It coincided in time with the AWS Database Specialty Beta, which forced me to choose between the two. Finally, I decided on taking the Databases Specialty, as I had recently tested from AWS Big Data.
The “Beta exam” experience is very different from the “standard” one: 85 questions and 4 hours long – that is, 20 questions and one more hour – a really intense experience. I recommend taking a 5-minute break – in the centers they are allowed – since after the third hour it is very difficult to stay focused.
The certification is the new version of AWS Big Data Specialty, an exam that will be withdrawn in June 2020. I will not go into much depth on the differences, suffice it to say that the domain of Machine Learning has been eliminated, expanding and updating the rest of domains in depth. But beware, Machine Learning and IoT continue to appear integrated in the other domains, therefore, it is necessary to know them at an architectural level, at the very least.
Image from aws.amazon.com
Prerequisites and recommendations
I will not repeat the information that is already available on the AWS website; instead, I am going to give my personal recommendations and observations, as I consider the Learning Path that AWS suggests to be somewhat light for the current level of the exam.
AWS experience at the architectural level. The exam is largely focused on advanced architecture solution – 5 pillars – and to a lesser extent on development, which is present mainly in services such as Kinesis and Glue. I recommend being in possession of the AWS Architect Solutions Pro certification or alternatively the AWS Architect Associate + AWS Security Specialty.
Advanced AWS security experience. it is a complete domain of the exam, but can be found – cross domain – in many questions. If you are in possession of the AWS Architect Solutions Pro, general security knowledge may be sufficient – not the specific certification knowledge for each service. Otherwise, the AWS Security Specialty is a good option, or equivalent knowledge in certain services – that I will indicate later on.
Analytics knowledge. Otherwise, I´d recommend studying books such as “Data Analytics with Hadoop” – O’Reilly 2016, or taking the courses indicated in the AWS Learning Path. Likewise, carry out laboratories or pet projects to obtain some practical experience.
Hadoop´s ecosystem knowledge. Connected to the previous point. High-level and architectural knowledge of the ecosystem is a must: Hive, Presto, Pig, …
Knowledge of Machine Learning and IoT – AWS ecosystem. Sagemaker and core IoT services at the architectural level
Imagen aws.amazon.com
Exam
The questions follow the style of other certifications such as AWS Pro Architect or Security or Databases Specialty. They are all “scenario based”, long and complex – most of them. You are not going to find many simple questions. Certainly, between 5% and 10% of “easy” questions appeared, but all in a “scenario” format.
I´d classify this question as “intermediate” level of difficulty. If you have taken the Architect PRO, or some specialty such as Security or Big Data, you will know what I am talking about. Certainly, the level of the questions is much higher and deeper than in the previous version of the exam.
I´d recommend doing the new specialty directly, as the old one contains questions about already deprecated services – or outdated information.
Services to know in depth
Image from aws.amazon.com
AWS Kinesis – in its three modalities, Data Streams, Firehose and Analytics. Architecture, dimensioning, configuration, integration with other services, security, troubleshooting, metrics, optimization and development. Questions of various levels, some of them very complex and of great depth.
AWS Glue – in deep for ETL and discover – an integral part of the exam. Questions of different levels – I did not find them to be the most difficult.
AWS Redshift – architecture, design, dimensioning, integration, security, ETL, backups … a large number of questions and some of them very complex.
AWS EMR / Spark – architecture, sizing configuration, performance, integration with other services, security, integration with the Hadoop ecosystem – very important, but not as important as the previous three services. Very complex questions that require advanced and transversal knowledge of all domains and the Hadoop ecosystem: Hive, HBase, Presto, Scoop, Pig …
Security – KMS encryption, AWS Cloud HMS, Federation, Active Directory, IAM, Policies, Roles etc … in general and for each service in particular. Transversal questions to other domains and of a high difficulty.
Very important services to consider
AWS S3 – core service base (storage, security, rules) and new features like AWS S3 Select. It appears consistently across all certifications, which is why I´d assume it’s known in depth except for the new features.
AWS Athena – architecture, configuration, integration, performance, use cases. It appears consistently and as an alternative to other services.
AWS Managed Kafka – alternative to Kinesis, architecture, configuration, dimensioning, performance, integration, use cases.
AWS Quicksight – subscription formats, service features, different ways of viewing, use cases. Alternative to other services.
AWS Elastic Search y Kibana (ELK) – architecture, configuration, dimensioning, performance, integration, use cases. Alternative to other services.
AWS Lambda – architecture, integration, use cases.
AWS StepFunctions – architecture, integration, use cases.
AWS DMS – architecture, integration, use cases.
AWS DataPipeline – architecture, integration, use cases.
Image from aws.amazon.com
Other services
AWS Networking – basic network architectures and knowledge: VPC, security groups, Direct Connect, VPN, Regions, Zones … network configuration of each particular service.
AWS DynamoDB, ElasticCache – architecture, integration, use case knowledge. These services, which appeared very prominently in the previous version of the exam, have much less weight in the current one.
AWS CloudWatch, Events, Log – architecture, configuration, integration, use case knowledge.
AWS RDS y Aurora – architecture, configuration, integration, use case knowledge.
EC2, Autoscaling – knowledge of architecture, integration, use cases.
SQS, SNS – knowledge of architecture, integration, use cases.
AWS Cloudformation – knowledge of architecture, use cases, devops.
Sagemaker y AWS IoT core – knowledge of architecture, integration, use cases.
Practice Exam – a must, quite challenging and very representative of the actual exam.
Is it worth it?
Let´s see 🙂
AWS Data Analytics Specialty is a complex and difficult certification; expensive (300 euros), which requires a very important investment of time – even having experience in analytics and AWS. Therefore, it is not a decision that can be taken lightly.
In my personal case, I found it very convenient to have done it, since I having been working on several projects of that kind – fast data, IoT – under AWS in recent times – apart from being the only certification that I needed to complete the full set of thirteen – if Big Data is included – certifications.
Certifications are a good way, not only to validate knowledge externally, but to collect updated information, validate good practices and consolidate knowledge with real (or almost) practical cases.
For those interested in the analytics field or who have professional experience in it, and who want to make the leap to the cloud, my recommendation is to first obtain an AWS Architect-type certification – preferably PRO – and optionally the Security specialty or equivalent knowledge , at least in the services that I have mentioned in previous points.
For those who already have AWS certifications, but no professional experience in the specific field, it may be a good way to start, but it will not be an easy or short path. I recommend doing labs or pet projects, in order to get some experience necessary to pass the exam.
So is it worth it? Absolutely, but not as a first certification. Especially aimed at people with advanced knowledge of AWS architecture who want to delve deeper into the analytics – cloud field.
El 13 de Abril comenzó de forma oficial el recorrido de la nueva certificación AWS Data Analytics Specialty – previa fase beta en Diciembre 2019 / Enero 2020. Coincidió en el tiempo con AWS Database Specialty Beta, lo que me obligó a elegir entre las dos. Finalmente, me decidí por Databases, ya que me había examinado recientemente de AWS Big DataSpecialty,
La experiencia “examen Beta” es muy diferente a la “standard“: 85 preguntas y 4 horas de duración – es decir, 20 preguntas y una hora mas – lo que da lugar a una experiencia muy intensa. Recomiendo hacer algún descanso de 5 minutos – en los centros están permitidos – ya que a partir de la tercera hora el examen se hace muy pesado, y es difícil mantener la concentración.
La certificación es la nueva versión de AWS Big Data Specialty, examen que será retirado en Junio de 2020. No voy a entrar en mucha profundidad en las diferencias, basta decir que se ha eliminado el dominio de Machine Learning, expandiendo y actualizando el resto de dominios en profundidad. Pero atención, Machine Learning e IoT siguen apareciendo integrados en el resto de dominios, por lo tanto, es necesario conocerlos a nivel arquitectural, como mínimo.
Pre-requisitos y recomendaciones
No voy a repetir la información que ya está disponible en la web de AWS; en cambio, voy a dar mis recomendaciones y observaciones personales, ya que considero que el Learning Path que sugiere AWS es algo ligero para el nivel actual del examen.
Experiencia AWS a nivel arquitectural. El examen está enfocado en gran parte a la solución de arquitectura avanzada – 5 pilares – y en menor medida al desarrollo, que tiene presencia sobre en todo en servicios como Kinesis y Glue. Recomiendo estar en posesión de la certificación AWS Architect Solutions Pro, y en su defecto la AWS Architect Associate + AWS Security Specialty.
Experiencia AWS a nivel de seguridad. Es un dominio completo del examen, pero se encuentra presente de forma transversal en muchas preguntas. Si se está en posesión de la AWS Architect Solutions Pro los conocimientos generales de seguridad pueden ser suficientes – no los específicos de la certificación para cada servicio. En caso contrario, la AWS Security Specialty es una buena opción, o conocimientos equivalentes en ciertos servicios que indicaré en siguientes puntos.
Conocimientos de Analytics. En caso contrario, recomiendo estudiar libros como “Data Analytics with Hadoop” , O’Reilly 2016, o tomar los cursos que se indican en el Learning Path de AWS. Así mismo, realizar laboratorios o proyectos pet para obtener cierta experiencia práctica.
Conocimientos del ecosistema Hadoop – Spark, conectado con el punto anterior. Son necesarios conocimientos de alto nivel y arquitectural del ecosistema: Hive, Presto, Pig, …
Conocimientos de Machine Learning e IoT en el ecosistema AWS. Sagemaker y servicios core IoT a nivel arquitectural.
Imagen aws.amazon.com
Examen
Las preguntas siguen el estilo de otras certificaciones cómo AWS Pro Architect, Security o Databases Specialty. Son todas “scenario based”, largas y complejas – la mayoría de ellas. No vais a encontrar preguntas “directas” o muy sencillas. Ciertamente, aparecieron entre un 5% y 10% de preguntas “asequibles”, pero todas en formato “escenario”.
Esta pregunta la clasifico como dificultad “intermedia”. Si os habéis examinado del Architect PRO, o de alguna especialidad como Security o Big Data, sabréis de lo que hablo. Ciertamente, el nivel de las preguntas es mucho más alto y profundo que en la versión anterior del examen.
Recomiendo realizar directamente la nueva especialidad, ya que la antigua contiene preguntas sobre servicios ya deprecados – o información desactualizada.
Servicios a conocer de forma profunda – inside out
AWS Kinesis – en sus tres modalidades, Data Streams, Firehose y Analytics. Arquitectura, dimensionamiento, configuración, integración con otros servicios, seguridad, troubleshooting, métricas, optimización y desarrollo – parte integral del examen. Preguntas de diverso nivel, algunas complejas y de gran profundidad.
AWS Glue – de forma profunda para ETL y discovery, parte integral del examen. Preguntas de diverso nivel – no me parecieron las más difíciles.
AWS Redshift – arquitectura, diseño, dimensionamiento, integración, seguridad, ETL, backups… gran número de preguntas, tantas que sorprende – y algunas muy complejas.
AWS EMR / Spark – arquitectura, dimensionamiento, configuración, performance, integración con otros servicios, seguridad, integración con el ecosistema Hadoop – muy importante, pero no tanto como los tres servicios anteriores. Preguntas muy complejas que requieren conocimientos avanzados y transversales a todos los dominios y al ecosistema Hadoop: Hive, HBase, Presto, Scoop, Pig …
Seguridad: encriptación KMS, AWS Cloud HMS, Federación, Active Directory, IAM, Policies, Roles etc … en general y para cada servicio en particular. Preguntas transversales a otros dominios y de dificultad elevada.
Servicios muy importantes a tener en cuenta
AWS S3 – servicio core base (almacenamiento, seguridad, reglas) y nuevas funcionalidades como AWS S3 Select. Aparece de forma consistente en todas las certificaciones, por lo que doy por supuesto que se conoce en profundidad, excepto las nuevas características.
AWS Athena – arquitectura, configuración, integración, performance, casos de uso. Aparece de forma consistente y como alternativa a otros servicios.
AWS Managed Kafka – alternativa a Kinesis, arquitectura, configuración, dimensionamiento, performance, integración, casos de uso.
AWS Quicksight – formatos de subscripción, características del servicio, diferentes formas de visualización, casos de uso. Alternativa a otros servicios.
AWS Elastic Search y Kibana (ELK) – arquitectura, configuración, dimensionamiento, performance, integración, casos de uso. Alternativa a otros servicios.
AWS Lambda – arquitectura, integración, casos de uso.
AWS StepFunctions – arquitectura, integración, casos de uso.
AWS DMS – conocimientos arquitectura, integración, casos de uso.
AWS DataPipeline – conocimientos arquitectura, integración, casos de uso.
Otros servicios
AWS Networking – arquitecturas y conocimientos básicos de red: VPC, security groups, Direct Connect, VPN, Regiones, Zonas … configuración de red de cada servicio en particular.
AWS DynamoDB, Elastic Cache – conocimientos arquitectura, integración, casos de uso. Estos servicios que aparecían de forma muy prominente en la anterior versión del examen, tienen mucho menos peso en la actual.
Examen de práctica – imprescindible y de nivel representativo del examen
¿Merece la pena?
Veamos 🙂
AWS Data Analytics Specialty es una certificación compleja y difícil; cara (300 euros), que requiere una inversión de tiempo muy importante – aun teniendo experiencia en analytics y AWS. Por lo tanto, no es una decisión que se pueda tomar a la ligera.
En mi caso personal, me pareció muy conveniente realizarla al haber estado trabajando en varios proyectos de tipo analytics – fast data, IoT – bajo AWS en los últimos tiempos – aparte de ser la única certificación que me faltaba para completar el full set de trece – si se incluye Big Data – certificaciones.
Las certificaciones son un buen modo, no solo de validar los conocimientos de forma externa, sino de recopilar información actualizada, validar buenas prácticas y consolidar conocimientos con casos prácticos reales (o casi).
Para los interesados en el campo analytics o que tienen experiencia profesional en el mismo, y que quieran dar el salto al cloud, mi recomendación es obtener primero una certificación AWS de tipo Arquitecto – preferiblemente la PRO – y optativamente la especialidad de Seguridad o conocimientos equivalentes, al menos en los servicios que he mencionado en puntos anteriores.
Para aquellos que tengan ya certificaciones AWS, pero no experiencia profesional en el campo específico, puede ser una buena forma para empezar, pero no va a ser un camino fácil o corto. Recomiendo la realización de laboratorios o proyectos pet, para así obtener cierta experiencia necesaria para superar el examen.
¿Merece la pena? desde luego, pero no como una primera certificación. Especialmente dirigida para gente con conocimientos avanzados de arquitectura AWS que quieran profundizar en el campo analytics – cloud.
