Python artificial intelligence principles, practice and applications

This book cleverly combines Python language with artificial intelligence knowledge, so that readers can not only learn Python programming language comprehensively, but also systematically understand the basic principles of artificial intelligence and deeply master artificial intelligence, which is the key technology of the new generation of artificial intelligence. At the same time, it is equipped with rich teaching cases and cutting-edge hot applications, and each knowledge point has a corresponding Python language implementation. The book is divided into 9 chapters. Chapter 1 mainly explains the development history, driving factors and key technologies of artificial intelligence. Chapter 2 is Python programming language, which systematically introduces Python\'s grammatical rules, data types, program structure, file operations and graphical programming. Chapter 3 is the basis of probability statistics, which is the theoretical basis of artificial intelligence. Chapter 4 is the *y method, which explains the essential problems of artificial intelligence algorithms. Chapter 5 Deep Learning and Neural Networks is the key chapter of this book. This chapter comprehensively and in-depth explains the current multi-layer neural networks based on deep learning, such as convolutional neural networks, recursive/cyclic neural networks, long short-term memory neural networks, etc. Chapter 6 TensorFlow Deep Learning focuses on the use of TensorFlow, an open source framework for deep learning, and how to use TensorFlow to develop and deploy various deep learning models. Chapter 7, Data Collection and Dataset Production, details how to collect data from the Internet and produce data sets through methods such as web crawlers. Chapter 8 details how to use GPU parallel computing devices and CUDA programming to accelerate the model training of deep learning in artificial intelligence. Chapter 9 carefully selects 7 artificial intelligence experimental cases, including data intelligent analysis, video image intelligent understanding, natural language processing and other aspects, from simple to difficult, which can be used as experimental teaching content to accompany this book. This book can be used as a study book for senior undergraduates and graduate students majoring in artificial intelligence, computer, electronic information, intelligent science and technology, data science and big data, robotics engineering, etc. It can also be used as a reference book for scientific researchers, engineering and technical personnel and intelligent application enthusiasts engaged in artificial intelligence research and development. 1 Chapter Overview 1.1 Introduction 1.2 Concept and Definition of Artificial Intelligence 1.3 Three Major Schools of Artificial Intelligence 1.3.1 Symbolism 1.3.2 Connectionism 1.3.3 Behaviorism 1.4 Origin and Development of Artificial Intelligence 1.5 Driving Factors of the New Generation of Artificial Intelligence 1.5.1 Rapid Growth of Data Volume 1.5.2 Significant Improvement in Computing Power 1.5.3 Development of Deep Learning and Other Algorithms 1.5.4 Driving Force of Mobile AI Innovative Applications 1.6 Key Technologies of Artificial Intelligence 1.6.1 Machine Learning and Deep Learning 1.6.2 Knowledge Graph 1.6.3 Natural Language Processing 1.6.4 Human-Computer Interaction 1.6.5 Computer Vision 1.6.6 Biometrics 1.6.7 SLAM Technology 1.6.8 VR/AR/MR Technology Summary of this Chapter After-Class Questions Chapter 2 PythonProgramming language 2.1 Introduction to Python 2.1.1 Development of Python language 2.1.2 Installation of Python development environment 2.1.3 Python running 2.2 Basic Python syntax and data types 2.2.1 Problem solving with programs 2.2.2 Python program syntax elements 2.2.3 Common functions 2.2.4 Python basic data types 2.2.5 Python combined data types 2.3 Python program structure 2.3.1 Branch structure 2.3.2 Loop structure 2.3.3 Loop reserved words 2.3.4 Exception handling 2.4 Python function and modular programming 2.4.1 Basic use of function 2.4.2 Parameter passing 2.4.3 Function return value 2.4.4 Variable scope 2.4.5 Anonymous function 2.4.6 Function application 2.4.7 Code reuse and modular programming 2.5 Python object-oriented programming 2.5.1 Definition and use of class 2.5.2 Attributes and methods 2.5.3 Inheritance 2.6 Python file operation and graphical programming 2.6.1 Basic file operation 2.6.2 Graphical interface tkinter 2.6.3 Vocabulary practice system Summary of this chapter Questions for after-class thinking Chapter 3 Basics of probability and statistics 3.1 Probability theory 3.1.1 Probability and conditional probability 3.1.2 Random variables 3.1.3 Distribution of discrete random variables Python experiment 3.1.4 Distribution of continuous random variables Python experiment 3.2 Basics of mathematical statistics 3.2.1 Population and sample 3.2.2 Statistics and sampling distribution 3.2.3 Law of large numbers and central limit theorem 3.3 Parameter estimation 3.3.1 Point estimation 3.3.2 Criteria for evaluating estimators 3.3.3 Interval estimation Summary of this chapter Questions for after-class thinking Chapter 4 *Optimization methods 4.1 *Basics of optimization methods 4.1.1 *Mathematical model of optimization problems 4.1.2 *Classification and application of optimization problems Use cases 4.1.3 Mathematical foundations 4.2 Convex optimization 4.2.1 Convex sets 4.2.2 Convex functions 4.2.3 Concepts of convex optimization 4.2.4 Python examples 4.3 * Least squares method 4.3.1 * Principle of least squares method 4.3.2 Python examples 4.4 Gradient descent method 4.4.1 Gradient descent idea 4.4.2 Algorithm steps of gradient descent method 4.4.3 Gradient algorithm classification 4.4.4 Python examples 4.5 Newton\'s method 4.5.1 Basic principle of Newton\'s method 4.5.2 Steps of Newton\'s method 4.5.3 Newton\'s method for solving unconstrained optimization problems 4.5.4 Python examples 4.6 Conjugate gradient method 4.6.1 Conjugate direction 4.6.2 Basic principle of conjugate gradient method 4.6 . 3 Iteration steps of the conjugate gradient method 4.6.4 Python example Summary of this chapter After-class questions Chapter 5 Deep learning and neural networks 5.1 Deep learning 5.1.1 Concepts of deep learning 5.1.2 Principles of deep learning 5.1.3 Deep learning training 5.2 Basics of artificial neural networks 5.2.1 Neuron perceptron 5.2.2 Neural network model 5.2.3 Learning method 5.2.4 Learning rule 5.2.5 Activation function 5.2.6 Gradient descent method 5.2.7 Cross entropy loss function 5.2.8 Overfitting and underfitting 5.3 Convolutional neural network 5.3.1 Introduction to convolutional neural network 5.3.2 Convolutional neural network structure 5.3.3 Convolutional neural network calculation 5.3.4 Typical convolutional neural network 5.4 Recurrent Neural Networks 5.4.1 Introduction to Recurrent Neural Networks 5.4.2 Structure of Recurrent Neural Networks 5.4.3 Computation of Recurrent Neural Networks 5.5 Long Short-Term Memory Networks 5.5.1 Introduction to Long Short-Term Memory Networks 5.5.2 Structure of Long Short-Term Memory Networks 5.5.3 Computation of Long Short-Term Memory Networks Summary of this Chapter Questions for After-Class Study Chapter 6 TensorFlow Deep Learning 6.1 Introduction 6.2 Technical Features of TensorFlow 6.3 TensorFlow Component Structure 6.4 TensorFlow Programming Basics 6.4.1 TensorFlow Program Structure 6.4.2 TensorFlow Programming Model 6.4.3 TensorFlow Common APIs 6.4.4 TensorFlow variable scope 6.4.5 TensorFlow batch normalization 6.5 TensorFlow neural network model construction 6.5.1 Neuron function and optimization method 6.5.2 Convolution function 6.5.3 Pooling function 6.5.4 Classification function 6.5.5 Optimization method 6.6 TensorFlow runtime environment installation 6.6.1 Python installation 6.6.2 pip tool installation 6.6.3 Sublime installation 6.7 TensorFlow deep learning model construction 6.7 6.7.1 Generate a fitted data set 6.7.2 Construct a linear regression model data flow graph 6.7.3 Run the constructed data flow graph in the Session 6.7.4 Output the fitted linear regression model 6.7.5 TensorBoard neural network data flow graph visualization Chapter summary After-class thinking questions Chapter 7 Data collection and data set creation 7.1 Introduction 7.2 Python data collection 7.2.1 Web mechanism and crawler principle 7.2.2 Python third-party library 7.2.3 Three major crawler libraries 7.2.4 Regular expression 7.2.5 Use API 7.2.6 Advanced Crawler 7.3 Training Dataset Creation 7.3.1 Data Access 7.3.2 Data Cleaning 7.4 Data Collection and Dataset Creation Examples Chapter Summary Questions for After-Class Study Chapter 8 GPU Parallel Computing and CUDA Programming 8.1 Introduction 8.2 GPU General Computing 8.2.1 Von Neumann Architecture 8.2.2 Introduction to GPU Development 8.2.3 Early GPGPU Programming 8.2.4 NVIDIA and CUDA 8.3 CUDA 8.3.1 GPU Hardware 8.3.2 CPU and GPU 8.3.3 GPU computing power 8.3.4 CUDA software architecture 8.3.5 CUDA hardware framework 8.3.6 CUDA programming model 8.3.7 Deep learning and GPU accelerated computing 8.3.8 Building a CUDA environment for deep learning 8.4 Examples of CUDA accelerating deep learning 8.4.1 Application of CUDA in the TensorFlow framework 8.4.2 Application of CUDA in the PyTorch framework Summary of this chapter Questions for after-class reflection Chapter 9 Python artificial intelligence experiments 9.1 Curve fitting experiment 9.1.1 Experimental content 9.1.2 Experimental steps 9.2 Prediction of the probability of death of Titanic passengers 9.2.1 Experimental content 9.2.2 Experimental steps 9.3 Stock prediction 9.3.1 Experimental content 9.3.2 Experimental steps 9.4 License plate recognition 9.4.1 Experimental content 9.4.2 Experimental steps 9.5 Recognition of wearing a mask 9.5.1 Experimental content 9.5.2 Experimental steps 9.6 Automatic poetry writing experiment 9.6.1 Experimental content 9.6.2 Experimental steps 9.7 Chatbot experiment 9.7.1 Experimental content 9.7.2 Experimental steps Chapter summary Post-class questions