Commit 186b43e8 authored by Rudel Fankep's avatar Rudel Fankep
Browse files

parser and definition for download, upload and prepare

parent ea3b25ee
subcommands für argparse
einzelne prameter zusammenbauen
#!/bin/bash
Target_file=$1
Target_dir=$2
s3cmd get $Target_file $Target_dir
......@@ -2,6 +2,6 @@
DOWNLOAD_DIR=$1
cd $DOWNLOAD_DIR
wget ftp://ftp.ebi.ac.uk/pub/databases/Pfam/current_release/Pfam-A.fasta.gz
gunzip Pfam-A.fasta.gz
wget ftp://ftp.ebi.ac.uk/pub/databases/Pfam/current_release/Pfam-A.hmm.gz
gunzip Pfam-A.hmm.gz
cd -
\ No newline at end of file
......@@ -2,22 +2,52 @@
import argparse
import subprocess
data={'swissprot':{'download':'./download_swissprot.sh','blast':'./blast_swissprot.sh','ghostx':'./ghostx_swissprot.sh'},'pfam':{'download':'./download_pfam.sh'}}
parser=argparse.ArgumentParser(description='Vorbereitung von Datenbanken für PSOT(lädt Daten herunter, wandelt die um und stellt die Daten den Rechnern zur Verfügung)',prog='psotdb')
parser.add_argument('-o','--option',dest='opt')
parser.add_argument('-b','--bank',dest='bank')
parser.add_argument('-t','--tool',dest='tool')
args=parser.parse_args()
if args.opt.lower()=='prepare':
file=subprocess.run([data[args.bank]['download'],'../dbx'])
def myparser():
parser=argparse.ArgumentParser(description='Download, convert and share the data to working computer',prog='PSOT_database_maker')
subparsers=parser.add_subparsers(title='Subcommands',description='Authorized Subcommands',help='Additional help')
prepare_parser=subparsers.add_parser('prepare',help='Databank download from the Website, extraction and transformation for another Programm')
prepare_parser.add_argument('database',help='Database which have to be prepared',type=str)
prepare_parser.add_argument('-t','--tool',help='Programm/Tool for the post analysis',type=str,)
prepare_parser.add_argument('-o','--output',default='./output',help='target directory for the output.Default will be a created("output") folder in the working directory',type=str)
prepare_parser.set_defaults(func=prepare)
upload_parser=subparsers.add_parser('upload',help='Databank copy from the local directory to the web storage')
upload_parser.add_argument('file',help='File to be transfered from the local directory',type=str)
upload_parser.add_argument('-d','--directory',default='s3://db_storage',help='Target directory for the file transfer into "S3". Default will be "s3://db_storage"',type=str)
upload_parser.set_defaults(func=upload)
download_parser=subparsers.add_parser('download',help='Datenbank copy from the web storage to the working computer')
download_parser.add_argument('file',help='File to be transfered from "S3"',type=str)
download_parser.add_argument('-d','--directory',default='./output',help='Target directory for the file transfer. Default will be a created folder("output) in the current working directory',type=str)
download_parser.set_defaults(func=download)
return parser.parse_args()
def prepare(args):
file_down=subprocess.run([data[args.database]['download'],args.output])
if args.tool:
file_tool=subprocess.run([data[args.bank][args.tool],'../dbx'])
file_tool=subprocess.run([data[args.database][args.tool],args.output])
elif args.opt.lower()=='upload':
print('hochladen')
elif args.opt.lower()=='download':
print('herunterladen')
else:
print('geht nicht')
def upload(args):
file_up=subprocess.run(['./upload_db.sh',args.file,args.directory])
def download(args):
file_down=subprocess.run(['./download_db.sh',args.file,args.directory])
def main():
subprocess.run(['./make_directory.sh'])
args=myparser()
args.func(args)
if __name__=='__main__':
main()
\ No newline at end of file
#!/bin/bash
mkdir -p output
\ No newline at end of file
Dbxref Quellcode, evtl. als Vorlage nutzbar: https://git.computational.bio.uni-giessen.de/SOaAS/dbxref/tree/master/dbxref
Beschreibung:
Das Protein Sequence Observation Tool integriert diverse bioinformatische Tools zur Anreicherung von Informationen zu Proteinen und normalisiert diese in das JSON Format, sodass die Informationen einfach von weiteren Programmen weiterverarbeitet werden können. In dieser Arbeit soll der ein Hilfsprogramm geschrieben werden, dass von PSOT benötigte Datenbanken vorbereitet und zur Verfügung stellt. Für einzelne Datenbanken gibt es bereits Skripte zur Installation und Aufbereitung. Diese Skripte sollen in einer Anwendung systematisch zusammen geführt und über eine einfach zu nutzende Kommandozeilenschnittstelle nutzbar gemacht werden. Vorraussetzung sind der Umgang mit der Linux Kommandozeile und solide Kenntnisse in Python 3.
Stories:
Verschiedene Rollen:
PSOT Entwickler
PSOT Nutzer
. Der PSOT Entwickler benötigt eine neue Datenbank für sein verteiltes Programm. Er schreibt einmalig ein Script das die Datenbank bezieht (herunterlädt) und eins um die Datenbank für seine Anwendung vorzubereiten. Diese Skripte werden im db Tool hinterlegt und stehen damit allen unter einem definierten Namen (z.B. der Datenbankname und für welches Programm es aufbereitet wurde) zur Verfügung.
. Der PSOT Entwickler hat seine Datenbank vorbereitet und möchte sie jetzt in seiner verteilten Anwendung allen Knoten zur Verfügung stellen. Dazu konfiguriert er das db Tool mit seinem S3 Cloud Speicher und beauftragt es damit die grade erstellte Datenbank dorthin hochzuladen. Die Daten werden komprimiert im Cloud Speicher abgelegt. Auf den Knoten beauftragt er das db Tool die Daten herunterzuladen und an die gewünschte Stelle zu entpacken.
. Der PSOT Nutzer möchte wissen welche Datenbanken in dem öffentlichen Repository liegen. Dazu ruft er das db tool auf und es listet alle verfügbaren Datenbanken auf.
. Das db Tool prüft ob eine bestimmte Datenbank verfügbar ist, damit es diese nicht erneut herunterladen muss.
. Der Nutzer möchte wissen an welcher Stelle im System eine Datenbank für ein bestimmtes Tool abgelegt ist. Er ruft das db tool mit der Datenbank und dem Tool auf und erhält den Pfad zurück.
Beispielaufrufe:
dbman prepare "UniprotKB/swiss-prot" "ghostx"
dbman upload "UniprotKB/swiss-prot" "ghostx"
dbman download "UniprotKB/swiss-prot" "ghostx"
dbman location "UniprotKB/swiss-prot" "ghostx"
dbman list database recipes
dbman list local databases
dbman list remote databases
Beispieldatenbanken:
swissprot
trembl
eggnog
pfam
card
Evtl. kann auch biomaj für das Problem genutzt werden: https://biomaj.genouest.org/
#!/bin/bash
Target_file=$1
Target_dir=$2
s3cmd put $Target_file $Target_dir
Markdown is supported
0% or .
You are about to add 0 people to the discussion. Proceed with caution.
Finish editing this message first!
Please register or to comment