Romolo  Morelli

Romolo Morelli

1661830680

Algoritmo K-Nearest Neighbors (KNN) con Scikit-learn in Python

Scopri l'algoritmo K-Nearest Neighbors (KNN) e come implementarlo con Scikit-learn in Python. KNN è un tipo di algoritmo di apprendimento automatico supervisionato e può essere utilizzato sia per la regressione che per la classificazione

Un algoritmo di apprendimento automatico supervisionato dipende dai dati di input etichettati su cui l'algoritmo apprende e utilizza le conoscenze apprese per produrre output accurati quando vengono inseriti dati senza etichetta.

L'uso di KNN è per fare previsioni sul set di dati del test in base alle caratteristiche (dati etichettati) dei dati di addestramento. Il metodo utilizzato per fare queste previsioni consiste nel calcolare la distanza tra i dati del test e i dati di addestramento, assumendo che caratteristiche o attributi simili dei punti dati esistano nelle immediate vicinanze. 

Ci consente di identificare e assegnare la categoria dei nuovi dati tenendo in considerazione le sue caratteristiche sulla base dei punti dati appresi dai dati di addestramento. Queste caratteristiche del nuovo punto dati verranno apprese dall'algoritmo KNN e, in base alla sua vicinanza ad altri punti dati, verranno classificate. 

Perché KNN è un buon algoritmo?

KNN è un buon algoritmo da utilizzare, in particolare per le attività di classificazione. La classificazione è un compito tipico in cui si imbattono molti data scientist e ingegneri di machine learning. Risolve molti problemi del mondo reale. 

Pertanto, algoritmi come KNN sono una buona e accurata scelta di algoritmi da utilizzare per la classificazione dei modelli e i modelli di regressione. È noto che KNN non fa ipotesi sui dati, portando a una maggiore precisione rispetto ad altri algoritmi di classificazione. L'algoritmo è anche facile da implementare e interpretabile.

La 'k' in KNN

La "K" in KNN è un parametro che si riferisce al numero di vicini più vicini, in cui il valore K crea essenzialmente un ambiente in cui i punti dati possono comprendere le sue somiglianze in base alla vicinanza. Utilizzando il valore K, calcoliamo la distanza tra i punti dati del test e i punti etichettati addestrati per classificare meglio i nuovi punti dati.

Il valore K è un numero intero positivo che in genere ha un valore piccolo con una raccomandazione che sia un numero dispari. Quando il valore K è piccolo, il tasso di errore diminuisce, con un bias basso ma una varianza elevata che porta a un overfitting del modello.

Come si calcola la distanza tra i punti dati?

KNN è un algoritmo basato sulla distanza, con i metodi più comuni utilizzati:

  • Euclideo e Manhattan per dati continui
  • Distanza di Hamming per dati categoriali

La distanza euclidea è la distanza matematica tra due punti all'interno dello spazio euclideo utilizzando la lunghezza di una linea tra i due punti. Questa è la metrica della distanza più conosciuta e molte persone la ricorderanno a scuola dal teorema di Pitagora. 

Manhattan Distance è la distanza matematica tra due punti, che è la somma della differenza assoluta delle loro coordinate cartesiane. In parole povere, il movimento di direzione tra la distanza può essere solo superiore, inferiore e laterale.

Distanza di Hamming confronta due stringhe di dati binari e quindi confronta questi due input di stringa per trovare il numero di caratteri diversi in ciascuna posizione della stringa.

Semplici passi dell'algoritmo KNN

Questi sono i passaggi generali che devi eseguire per l'algoritmo KNN

  1. Carica nel tuo set di dati
  2. Scegli un valore k. Dovresti scegliere un numero dispari per evitare un pareggio.
  3. Trova la distanza tra il nuovo punto dati e i punti dati addestrati esistenti adiacenti. 
  4. Assegna il nuovo punto dati al suo vicino K più vicino

Utilizzo di sklearn per kNN

neighbors è un pacchetto del modulo sklearn che usi per le attività di classificazione dei neighbor più vicini. Questo può essere utilizzato sia per l'apprendimento non supervisionato che supervisionato.

Innanzitutto, dovrai importare queste librerie:

import numpy as np
import matplotlib.pyplot as plt
import pandas as pd

Questo è il pacchetto sklearn neighbors:

sklearn.neighbors.KNeighborsClassifier

Questi sono i parametri utilizzabili:

class sklearn.neighbors.KNeighborsClassifier(n_neighbors=5, *, weights='uniform', algorithm='auto', leaf_size=30, p=2, metric='minkowski', metric_params=None, n_jobs=None)

La metrica della distanza utilizzata qui nell'esempio è minkowski, tuttavia, come accennato in precedenza, ci sono diverse metriche della distanza che puoi utilizzare.

Se vuoi saperne di più su questi parametri, clicca su questo link .

K-vicini più vicini in Scikit-Impara sul set di dati Iris

Carica nel set di dati dell'iride

Importa queste librerie:

import numpy as np
import matplotlib.pyplot as plt
import pandas as pd

Importa set di dati Iris:

# url for Iris dataset
url = "https://archive.ics.uci.edu/ml/machine-learning-databases/iris/iris.data"

# Assign column names to the dataset
names = ['sepal-length', 'sepal-width', 'petal-length', 'petal-width', 'Class']

# Read in the dataset
df = pd.read_csv(url, names=names)

Ecco come dovrebbe apparire il set di dati eseguendo df.head():

Set di dati dell'iride

Preelaborazione del set di dati

Il passaggio successivo consiste nel dividere il set di dati in base ad attributi ed etichette. La colonna della classe è considerata come etichette ed è indicata come y, dove le prime 4 colonne sono attributi e saranno indicate come X

X = dataset.iloc[:, :-1].values
y = dataset.iloc[:, 4].values

Divisione treno/prova

L'utilizzo di una suddivisione treno/test sul nostro set di dati ci aiuterà a comprendere meglio le prestazioni del nostro algoritmo in fase di test/dati invisibili. Aiuta anche a ridurre l'overfitting. 

from sklearn.model_selection import train_test_split
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.20)

Ridimensionamento delle funzioni

Il ridimensionamento delle funzionalità è un passaggio importante prima di eseguire il modello per iniziare a fare previsioni. Implica il ridimensionamento delle funzionalità in un confine comune in modo che nessuna informazione su ciascuno dei punti dati venga persa. Senza questo, il tuo modello potrebbe fare previsioni sbagliate. 

from sklearn.preprocessing import StandardScaler
scaler = StandardScaler()
scaler.fit(X_train)

X_train = scaler.transform(X_train)
X_test = scaler.transform(X_test)

Fai la tua previsione

Qui è dove useremo il pacchetto neighbors dal modulo sklearn. Come puoi vedere, abbiamo scelto il nostro numero di vicini (valore K) come 5. 

from sklearn.neighbors import KNeighborsClassifier
classifier = KNeighborsClassifier(n_neighbors=5)
classifier.fit(X_train, y_train)

Ora vogliamo fare una previsione sul set di dati di test:

y_pred = classifier.predict(X_test)

Valutare il tuo algoritmo

Le metriche più tipiche utilizzate per valutare il tuo algoritmo sono la matrice di confusione, la precisione, il richiamo e il punteggio f1. 

from sklearn.metrics import classification_report, confusion_matrix
print(confusion_matrix(y_test, y_pred))
print(classification_report(y_test, y_pred))

Questo è l'output:

uscita del codice

Conclusione

Quindi abbiamo capito che KNN è un buon algoritmo da usare per le attività di classificazione e che il pacchetto neighbors in Scikit-learn può rendere tutto molto più semplice. È molto semplice e facile da implementare con una flessibilità nelle scelte di caratteristiche/distanza. Ha la capacità di gestire casi multi-classe e può produrre efficacemente output accurati.

Ma ci sono alcune cose che devi prendere in considerazione quando si tratta di KNN. Determinare il valore k può essere difficile, perché può fare la differenza tra causare un overfitting o meno. Può anche essere una questione di tentativi ed errori quando si determina quale metrica di distanza utilizzare. KNN ha anche un costo computazionale elevato poiché calcoliamo le distanze tra il nuovo punto dati e i punti dati di addestramento. Detto questo, l'algoritmo KNN rallenta all'aumentare del numero di esempi e variabili

Sebbene sia uno degli algoritmi di classificazione più antichi e ben utilizzati in circolazione, è necessario considerare anche la contro. 

Fonte dell'articolo originale su https://www.kdnuggets.com

#knn #knearestneighbors #scikitlearn #algorithm #python #machinelearning

What is GEEK

Buddha Community

Algoritmo K-Nearest Neighbors (KNN) con Scikit-learn in Python
Ray  Patel

Ray Patel

1625843760

Python Packages in SQL Server – Get Started with SQL Server Machine Learning Services

Introduction

When installing Machine Learning Services in SQL Server by default few Python Packages are installed. In this article, we will have a look on how to get those installed python package information.

Python Packages

When we choose Python as Machine Learning Service during installation, the following packages are installed in SQL Server,

  • revoscalepy – This Microsoft Python package is used for remote compute contexts, streaming, parallel execution of rx functions for data import and transformation, modeling, visualization, and analysis.
  • microsoftml – This is another Microsoft Python package which adds machine learning algorithms in Python.
  • Anaconda 4.2 – Anaconda is an opensource Python package

#machine learning #sql server #executing python in sql server #machine learning using python #machine learning with sql server #ml in sql server using python #python in sql server ml #python packages #python packages for machine learning services #sql server machine learning services

Ray  Patel

Ray Patel

1619510796

Lambda, Map, Filter functions in python

Welcome to my Blog, In this article, we will learn python lambda function, Map function, and filter function.

Lambda function in python: Lambda is a one line anonymous function and lambda takes any number of arguments but can only have one expression and python lambda syntax is

Syntax: x = lambda arguments : expression

Now i will show you some python lambda function examples:

#python #anonymous function python #filter function in python #lambda #lambda python 3 #map python #python filter #python filter lambda #python lambda #python lambda examples #python map

Sival Alethea

Sival Alethea

1624291780

Learn Python - Full Course for Beginners [Tutorial]

This course will give you a full introduction into all of the core concepts in python. Follow along with the videos and you’ll be a python programmer in no time!
⭐️ Contents ⭐
⌨️ (0:00) Introduction
⌨️ (1:45) Installing Python & PyCharm
⌨️ (6:40) Setup & Hello World
⌨️ (10:23) Drawing a Shape
⌨️ (15:06) Variables & Data Types
⌨️ (27:03) Working With Strings
⌨️ (38:18) Working With Numbers
⌨️ (48:26) Getting Input From Users
⌨️ (52:37) Building a Basic Calculator
⌨️ (58:27) Mad Libs Game
⌨️ (1:03:10) Lists
⌨️ (1:10:44) List Functions
⌨️ (1:18:57) Tuples
⌨️ (1:24:15) Functions
⌨️ (1:34:11) Return Statement
⌨️ (1:40:06) If Statements
⌨️ (1:54:07) If Statements & Comparisons
⌨️ (2:00:37) Building a better Calculator
⌨️ (2:07:17) Dictionaries
⌨️ (2:14:13) While Loop
⌨️ (2:20:21) Building a Guessing Game
⌨️ (2:32:44) For Loops
⌨️ (2:41:20) Exponent Function
⌨️ (2:47:13) 2D Lists & Nested Loops
⌨️ (2:52:41) Building a Translator
⌨️ (3:00:18) Comments
⌨️ (3:04:17) Try / Except
⌨️ (3:12:41) Reading Files
⌨️ (3:21:26) Writing to Files
⌨️ (3:28:13) Modules & Pip
⌨️ (3:43:56) Classes & Objects
⌨️ (3:57:37) Building a Multiple Choice Quiz
⌨️ (4:08:28) Object Functions
⌨️ (4:12:37) Inheritance
⌨️ (4:20:43) Python Interpreter
📺 The video in this post was made by freeCodeCamp.org
The origin of the article: https://www.youtube.com/watch?v=rfscVS0vtbw&list=PLWKjhJtqVAblfum5WiQblKPwIbqYXkDoC&index=3

🔥 If you’re a beginner. I believe the article below will be useful to you ☞ What You Should Know Before Investing in Cryptocurrency - For Beginner
⭐ ⭐ ⭐The project is of interest to the community. Join to Get free ‘GEEK coin’ (GEEKCASH coin)!
☞ **-----CLICK HERE-----**⭐ ⭐ ⭐
Thanks for visiting and watching! Please don’t forget to leave a like, comment and share!

#python #learn python #learn python for beginners #learn python - full course for beginners [tutorial] #python programmer #concepts in python

Shardul Bhatt

Shardul Bhatt

1626775355

Why use Python for Software Development

No programming language is pretty much as diverse as Python. It enables building cutting edge applications effortlessly. Developers are as yet investigating the full capability of end-to-end Python development services in various areas. 

By areas, we mean FinTech, HealthTech, InsureTech, Cybersecurity, and that's just the beginning. These are New Economy areas, and Python has the ability to serve every one of them. The vast majority of them require massive computational abilities. Python's code is dynamic and powerful - equipped for taking care of the heavy traffic and substantial algorithmic capacities. 

Programming advancement is multidimensional today. Endeavor programming requires an intelligent application with AI and ML capacities. Shopper based applications require information examination to convey a superior client experience. Netflix, Trello, and Amazon are genuine instances of such applications. Python assists with building them effortlessly. 

5 Reasons to Utilize Python for Programming Web Apps 

Python can do such numerous things that developers can't discover enough reasons to admire it. Python application development isn't restricted to web and enterprise applications. It is exceptionally adaptable and superb for a wide range of uses.

Robust frameworks 

Python is known for its tools and frameworks. There's a structure for everything. Django is helpful for building web applications, venture applications, logical applications, and mathematical processing. Flask is another web improvement framework with no conditions. 

Web2Py, CherryPy, and Falcon offer incredible capabilities to customize Python development services. A large portion of them are open-source frameworks that allow quick turn of events. 

Simple to read and compose 

Python has an improved sentence structure - one that is like the English language. New engineers for Python can undoubtedly understand where they stand in the development process. The simplicity of composing allows quick application building. 

The motivation behind building Python, as said by its maker Guido Van Rossum, was to empower even beginner engineers to comprehend the programming language. The simple coding likewise permits developers to roll out speedy improvements without getting confused by pointless subtleties. 

Utilized by the best 

Alright - Python isn't simply one more programming language. It should have something, which is the reason the business giants use it. Furthermore, that too for different purposes. Developers at Google use Python to assemble framework organization systems, parallel information pusher, code audit, testing and QA, and substantially more. Netflix utilizes Python web development services for its recommendation algorithm and media player. 

Massive community support 

Python has a steadily developing community that offers enormous help. From amateurs to specialists, there's everybody. There are a lot of instructional exercises, documentation, and guides accessible for Python web development solutions. 

Today, numerous universities start with Python, adding to the quantity of individuals in the community. Frequently, Python designers team up on various tasks and help each other with algorithmic, utilitarian, and application critical thinking. 

Progressive applications 

Python is the greatest supporter of data science, Machine Learning, and Artificial Intelligence at any enterprise software development company. Its utilization cases in cutting edge applications are the most compelling motivation for its prosperity. Python is the second most well known tool after R for data analytics.

The simplicity of getting sorted out, overseeing, and visualizing information through unique libraries makes it ideal for data based applications. TensorFlow for neural networks and OpenCV for computer vision are two of Python's most well known use cases for Machine learning applications.

Summary

Thinking about the advances in programming and innovation, Python is a YES for an assorted scope of utilizations. Game development, web application development services, GUI advancement, ML and AI improvement, Enterprise and customer applications - every one of them uses Python to its full potential. 

The disadvantages of Python web improvement arrangements are regularly disregarded by developers and organizations because of the advantages it gives. They focus on quality over speed and performance over blunders. That is the reason it's a good idea to utilize Python for building the applications of the future.

#python development services #python development company #python app development #python development #python in web development #python software development

Romolo  Morelli

Romolo Morelli

1661830680

Algoritmo K-Nearest Neighbors (KNN) con Scikit-learn in Python

Scopri l'algoritmo K-Nearest Neighbors (KNN) e come implementarlo con Scikit-learn in Python. KNN è un tipo di algoritmo di apprendimento automatico supervisionato e può essere utilizzato sia per la regressione che per la classificazione

Un algoritmo di apprendimento automatico supervisionato dipende dai dati di input etichettati su cui l'algoritmo apprende e utilizza le conoscenze apprese per produrre output accurati quando vengono inseriti dati senza etichetta.

L'uso di KNN è per fare previsioni sul set di dati del test in base alle caratteristiche (dati etichettati) dei dati di addestramento. Il metodo utilizzato per fare queste previsioni consiste nel calcolare la distanza tra i dati del test e i dati di addestramento, assumendo che caratteristiche o attributi simili dei punti dati esistano nelle immediate vicinanze. 

Ci consente di identificare e assegnare la categoria dei nuovi dati tenendo in considerazione le sue caratteristiche sulla base dei punti dati appresi dai dati di addestramento. Queste caratteristiche del nuovo punto dati verranno apprese dall'algoritmo KNN e, in base alla sua vicinanza ad altri punti dati, verranno classificate. 

Perché KNN è un buon algoritmo?

KNN è un buon algoritmo da utilizzare, in particolare per le attività di classificazione. La classificazione è un compito tipico in cui si imbattono molti data scientist e ingegneri di machine learning. Risolve molti problemi del mondo reale. 

Pertanto, algoritmi come KNN sono una buona e accurata scelta di algoritmi da utilizzare per la classificazione dei modelli e i modelli di regressione. È noto che KNN non fa ipotesi sui dati, portando a una maggiore precisione rispetto ad altri algoritmi di classificazione. L'algoritmo è anche facile da implementare e interpretabile.

La 'k' in KNN

La "K" in KNN è un parametro che si riferisce al numero di vicini più vicini, in cui il valore K crea essenzialmente un ambiente in cui i punti dati possono comprendere le sue somiglianze in base alla vicinanza. Utilizzando il valore K, calcoliamo la distanza tra i punti dati del test e i punti etichettati addestrati per classificare meglio i nuovi punti dati.

Il valore K è un numero intero positivo che in genere ha un valore piccolo con una raccomandazione che sia un numero dispari. Quando il valore K è piccolo, il tasso di errore diminuisce, con un bias basso ma una varianza elevata che porta a un overfitting del modello.

Come si calcola la distanza tra i punti dati?

KNN è un algoritmo basato sulla distanza, con i metodi più comuni utilizzati:

  • Euclideo e Manhattan per dati continui
  • Distanza di Hamming per dati categoriali

La distanza euclidea è la distanza matematica tra due punti all'interno dello spazio euclideo utilizzando la lunghezza di una linea tra i due punti. Questa è la metrica della distanza più conosciuta e molte persone la ricorderanno a scuola dal teorema di Pitagora. 

Manhattan Distance è la distanza matematica tra due punti, che è la somma della differenza assoluta delle loro coordinate cartesiane. In parole povere, il movimento di direzione tra la distanza può essere solo superiore, inferiore e laterale.

Distanza di Hamming confronta due stringhe di dati binari e quindi confronta questi due input di stringa per trovare il numero di caratteri diversi in ciascuna posizione della stringa.

Semplici passi dell'algoritmo KNN

Questi sono i passaggi generali che devi eseguire per l'algoritmo KNN

  1. Carica nel tuo set di dati
  2. Scegli un valore k. Dovresti scegliere un numero dispari per evitare un pareggio.
  3. Trova la distanza tra il nuovo punto dati e i punti dati addestrati esistenti adiacenti. 
  4. Assegna il nuovo punto dati al suo vicino K più vicino

Utilizzo di sklearn per kNN

neighbors è un pacchetto del modulo sklearn che usi per le attività di classificazione dei neighbor più vicini. Questo può essere utilizzato sia per l'apprendimento non supervisionato che supervisionato.

Innanzitutto, dovrai importare queste librerie:

import numpy as np
import matplotlib.pyplot as plt
import pandas as pd

Questo è il pacchetto sklearn neighbors:

sklearn.neighbors.KNeighborsClassifier

Questi sono i parametri utilizzabili:

class sklearn.neighbors.KNeighborsClassifier(n_neighbors=5, *, weights='uniform', algorithm='auto', leaf_size=30, p=2, metric='minkowski', metric_params=None, n_jobs=None)

La metrica della distanza utilizzata qui nell'esempio è minkowski, tuttavia, come accennato in precedenza, ci sono diverse metriche della distanza che puoi utilizzare.

Se vuoi saperne di più su questi parametri, clicca su questo link .

K-vicini più vicini in Scikit-Impara sul set di dati Iris

Carica nel set di dati dell'iride

Importa queste librerie:

import numpy as np
import matplotlib.pyplot as plt
import pandas as pd

Importa set di dati Iris:

# url for Iris dataset
url = "https://archive.ics.uci.edu/ml/machine-learning-databases/iris/iris.data"

# Assign column names to the dataset
names = ['sepal-length', 'sepal-width', 'petal-length', 'petal-width', 'Class']

# Read in the dataset
df = pd.read_csv(url, names=names)

Ecco come dovrebbe apparire il set di dati eseguendo df.head():

Set di dati dell'iride

Preelaborazione del set di dati

Il passaggio successivo consiste nel dividere il set di dati in base ad attributi ed etichette. La colonna della classe è considerata come etichette ed è indicata come y, dove le prime 4 colonne sono attributi e saranno indicate come X

X = dataset.iloc[:, :-1].values
y = dataset.iloc[:, 4].values

Divisione treno/prova

L'utilizzo di una suddivisione treno/test sul nostro set di dati ci aiuterà a comprendere meglio le prestazioni del nostro algoritmo in fase di test/dati invisibili. Aiuta anche a ridurre l'overfitting. 

from sklearn.model_selection import train_test_split
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.20)

Ridimensionamento delle funzioni

Il ridimensionamento delle funzionalità è un passaggio importante prima di eseguire il modello per iniziare a fare previsioni. Implica il ridimensionamento delle funzionalità in un confine comune in modo che nessuna informazione su ciascuno dei punti dati venga persa. Senza questo, il tuo modello potrebbe fare previsioni sbagliate. 

from sklearn.preprocessing import StandardScaler
scaler = StandardScaler()
scaler.fit(X_train)

X_train = scaler.transform(X_train)
X_test = scaler.transform(X_test)

Fai la tua previsione

Qui è dove useremo il pacchetto neighbors dal modulo sklearn. Come puoi vedere, abbiamo scelto il nostro numero di vicini (valore K) come 5. 

from sklearn.neighbors import KNeighborsClassifier
classifier = KNeighborsClassifier(n_neighbors=5)
classifier.fit(X_train, y_train)

Ora vogliamo fare una previsione sul set di dati di test:

y_pred = classifier.predict(X_test)

Valutare il tuo algoritmo

Le metriche più tipiche utilizzate per valutare il tuo algoritmo sono la matrice di confusione, la precisione, il richiamo e il punteggio f1. 

from sklearn.metrics import classification_report, confusion_matrix
print(confusion_matrix(y_test, y_pred))
print(classification_report(y_test, y_pred))

Questo è l'output:

uscita del codice

Conclusione

Quindi abbiamo capito che KNN è un buon algoritmo da usare per le attività di classificazione e che il pacchetto neighbors in Scikit-learn può rendere tutto molto più semplice. È molto semplice e facile da implementare con una flessibilità nelle scelte di caratteristiche/distanza. Ha la capacità di gestire casi multi-classe e può produrre efficacemente output accurati.

Ma ci sono alcune cose che devi prendere in considerazione quando si tratta di KNN. Determinare il valore k può essere difficile, perché può fare la differenza tra causare un overfitting o meno. Può anche essere una questione di tentativi ed errori quando si determina quale metrica di distanza utilizzare. KNN ha anche un costo computazionale elevato poiché calcoliamo le distanze tra il nuovo punto dati e i punti dati di addestramento. Detto questo, l'algoritmo KNN rallenta all'aumentare del numero di esempi e variabili

Sebbene sia uno degli algoritmi di classificazione più antichi e ben utilizzati in circolazione, è necessario considerare anche la contro. 

Fonte dell'articolo originale su https://www.kdnuggets.com

#knn #knearestneighbors #scikitlearn #algorithm #python #machinelearning