Juste un court et simple sur l'excellent module Requêtes pour Python.
Je n'arrive pas à trouver dans la documentation ce que la variable 'proxy' doit contenir. Lorsque je lui envoie un dict avec une valeur standard "IP: PORT", il le rejette en demandant 2 valeurs. Donc, je suppose (parce que cela ne semble pas être couvert dans les documents) que la première valeur est l'ip et la seconde le port?
Les documents ne mentionnent cela que:
proxies - (facultatif) Protocole de mappage de dictionnaire avec l'URL du proxy.
J'ai donc essayé ceci ... que dois-je faire?
proxy = { ip: port}
Et dois-je les convertir en un certain type avant de les mettre dans le dict?
r = requests.get(url,headers=headers,proxies=proxy)
9 réponses
La syntaxe de dict proxies
'est {"protocol":"ip:port", ...}
. Avec lui, vous pouvez spécifier différents (ou les mêmes) mandataires pour les demandes en utilisant les protocoles http , https et ftp :
http_proxy = "http://10.10.1.10:3128"
https_proxy = "https://10.10.1.11:1080"
ftp_proxy = "ftp://10.10.1.10:3128"
proxyDict = {
"http" : http_proxy,
"https" : https_proxy,
"ftp" : ftp_proxy
}
r = requests.get(url, headers=headers, proxies=proxyDict)
Déduit de la requests
documentation:
Paramètres:
method
- méthode pour le nouvel objet Request.
url
- URL du nouvel objet Request.
...
proxies
- (facultatif) mappage du protocole du dictionnaire à l'URL du proxy .
...
Sous linux, vous pouvez également le faire via les variables d'environnement HTTP_PROXY
, HTTPS_PROXY
et FTP_PROXY
:
export HTTP_PROXY=10.10.1.10:3128
export HTTPS_PROXY=10.10.1.11:1080
export FTP_PROXY=10.10.1.10:3128
Sous Windows:
set http_proxy=10.10.1.10:3128
set https_proxy=10.10.1.11:1080
set ftp_proxy=10.10.1.10:3128
Merci, Jay de l'avoir signalé:
La syntaxe a changé avec les requêtes 2.0.0 .
Vous devrez ajouter un schéma à l'url: http: //docs.python-requests .org / en / latest / user / advanced / # proxies
8 ans de retard. Mais j'aime:
import os
import requests
os.environ['HTTP_PROXY'] = os.environ['http_proxy'] = 'http://http-connect-proxy:3128/'
os.environ['HTTPS_PROXY'] = os.environ['https_proxy'] = 'http://http-connect-proxy:3128/'
os.environ['NO_PROXY'] = os.environ['no_proxy'] = '127.0.0.1,localhost,.local'
r = requests.get('https://example.com') # , verify=False
Vous pouvez vous référer à la documentation proxy ici.
Si vous devez utiliser un proxy, vous pouvez configurer des requêtes individuelles avec l'argument proxies pour n'importe quelle méthode de requête:
import requests
proxies = {
"http": "http://10.10.1.10:3128",
"https": "https://10.10.1.10:1080",
}
requests.get("http://example.org", proxies=proxies)
Pour utiliser l'authentification HTTP de base avec votre proxy, utilisez http: // user: password@host.com/ syntaxe:
proxies = {
"http": "http://user:pass@10.10.1.10:3128/"
}
Il est un peu tard mais voici une classe wrapper qui simplifie le scraping des proxys puis la création d'un http POST ou GET:
ProxyRequests
https://github.com/rootVIII/proxy_requests
Je viens de créer un proxy et je peux également me connecter avec le même proxy saisi sans aucune entrée ici:
#Import Modules
from termcolor import colored
from selenium import webdriver
import requests
import os
import sys
import time
#Proxy Grab
options = webdriver.ChromeOptions()
options.add_argument('headless')
driver = webdriver.Chrome(chrome_options=options)
driver.get("https://www.sslproxies.org/")
tbody = driver.find_element_by_tag_name("tbody")
cell = tbody.find_elements_by_tag_name("tr")
for column in cell:
column = column.text.split(" ")
print(colored(column[0]+":"+column[1],'yellow'))
driver.quit()
print("")
os.system('clear')
os.system('cls')
#Proxy Connection
print(colored('Getting Proxies from graber...','green'))
time.sleep(2)
os.system('clear')
os.system('cls')
proxy = {"http": "http://"+ column[0]+":"+column[1]}
url = 'https://mobile.facebook.com/login'
r = requests.get(url, proxies=proxy)
print("")
print(colored('Connecting using proxy' ,'green'))
print("")
sts = r.status_code
La réponse acceptée a été un bon début pour moi, mais j'ai continué à recevoir l'erreur suivante:
AssertionError: Not supported proxy scheme None
Le correctif était de spécifier le http: // dans l'url du proxy ainsi:
http_proxy = "http://194.62.145.248:8080"
https_proxy = "https://194.62.145.248:8080"
ftp_proxy = "10.10.1.10:3128"
proxyDict = {
"http" : http_proxy,
"https" : https_proxy,
"ftp" : ftp_proxy
}
Je serais intéressé de savoir pourquoi l'original fonctionne pour certaines personnes mais pas pour moi.
Edit: je vois que la réponse principale est maintenant mise à jour pour refléter cela :)
Voici ma classe de base en python pour le module de requêtes avec quelques configurations de proxy et chronomètre!
import requests
import time
class BaseCheck():
def __init__(self, url):
self.http_proxy = "http://user:pw@proxy:8080"
self.https_proxy = "http://user:pw@proxy:8080"
self.ftp_proxy = "http://user:pw@proxy:8080"
self.proxyDict = {
"http" : self.http_proxy,
"https" : self.https_proxy,
"ftp" : self.ftp_proxy
}
self.url = url
def makearr(tsteps):
global stemps
global steps
stemps = {}
for step in tsteps:
stemps[step] = { 'start': 0, 'end': 0 }
steps = tsteps
makearr(['init','check'])
def starttime(typ = ""):
for stemp in stemps:
if typ == "":
stemps[stemp]['start'] = time.time()
else:
stemps[stemp][typ] = time.time()
starttime()
def __str__(self):
return str(self.url)
def getrequests(self):
g=requests.get(self.url,proxies=self.proxyDict)
print g.status_code
print g.content
print self.url
stemps['init']['end'] = time.time()
#print stemps['init']['end'] - stemps['init']['start']
x= stemps['init']['end'] - stemps['init']['start']
print x
test=BaseCheck(url='http://google.com')
test.getrequests()
J'ai trouvé que urllib a un très bon code pour récupérer les paramètres de proxy du système et qu'ils sont sous la bonne forme à utiliser directement. Vous pouvez utiliser ceci comme:
import urllib
...
r = requests.get('http://example.org', proxies=urllib.request.getproxies())
Cela fonctionne très bien et urllib sait également comment obtenir les paramètres de Mac OS X et Windows.
Si vous souhaitez conserver les cookies et les données de session, vous feriez mieux de le faire comme ceci:
import requests
proxies = {
'http': 'http://user:pass@10.10.1.0:3128',
'https': 'https://user:pass@10.10.1.0:3128',
}
# Create the session and set the proxies.
s = requests.Session()
s.proxies = proxies
# Make the HTTP request through the session.
r = s.get('http://www.showmemyip.com/')
Questions connexes
De nouvelles questions
python
Python est un langage de programmation multi-paradigme, typé dynamiquement et polyvalent. Il est conçu pour être rapide à apprendre, comprendre, utiliser et appliquer une syntaxe propre et uniforme. Veuillez noter que Python 2 est officiellement hors support à partir du 01-01-2020. Néanmoins, pour les questions Python spécifiques à la version, ajoutez la balise [python-2.7] ou [python-3.x]. Lorsque vous utilisez une variante Python (par exemple, Jython, PyPy) ou une bibliothèque (par exemple, Pandas et NumPy), veuillez l'inclure dans les balises.